2 MHNΥMATA Αναλογικα-Ψηφιακα Δειγματοληψια

ΘΕΩΡΙΑ ΠΛΗΡΟΦΟΡΙΑΣ και ΧΑΟΣ
2. MΗNYMATA ως Χρονοσειρες.
Αναλογικα και Ψηφιακα Μηνυματα.
Δειγματοληψια
Ioannis E. Antoniou
Mathematics Department
Aristotle University
54124,Thessaloniki,Greece
[email protected]
http://users.auth.gr/iantonio
Mηνυματα και Γλωσσα Επικοινωνιας
Μετατροπη Ψηφιακου σε Αναλογικο Σημα
Μετατροπη Αναλογικου σε Ψηφιακο Σημα
Δειγματοληψια
MHNYMATA και ΓΛΩΣΣΑ ΕΠΙΚΟΙΝΩΝΙΑΣ
Επικοινωνια είναι η ανταλλαγη Μηνυματων
Τα Μηνυματα είναι χρονοσειρες συμβολων σ από το συνολο Σ
Σε διακριτο χρονο − ακολουθιες ψ: 𝕋 → Σ: t ⟼ ψt , 𝕋 ⊆ ℤ
(digital signals)
Σε συνεχη χρονο – συναρτησεις ψ: 𝕋 → Σ: t ⟼ ψ(t) , 𝕋 ⊆ ℝ (analog signals)
𝕋 = o Xρονος = το διαταγμενο συνολο καταγραφων του Χρονου
Ο χρονος μπορει να είναι συνεχης, t� , η διακριτος t=nτ, n�  ,
τ η μοναδα χρονου = ο στοιχειωδης χρονος = το χρονον (chronon).
Τα Μηνυματα είναι στοιχεια του συνολου Σ𝕋 των απεικονισεων
με πεδιο ορισμου το χρονο 𝕋 (δεικτες χρονου) και
πεδιο τιμων τα συμβολα από το Σ
Το συμβολο Σ𝕋 περιλαμβανει ολες τις κλασεις Μηνυματων
Παραδειγματα Μηνυματων - Συμβολων
Μηνυμα
Μετρηση Θερμοκρασιας, Πιεσης,
Ηλεκτρικου Ρευματος
Τηλεγραφημα του 1902
Συμβολα
Ρητοι Αριθμοι
. , _ , ΚΕΝΟ
Δυαδικο
Ηχος, Moυσικη
0,1
Νοτες, Υψη, Διαρκειες
Εικονα, Video, Aκολουθια Pixels
Ενταση (Red, Green, Blue)
Κειμενο βιβλιου
ASKII χαρακτηρες
Εmails, Περιεχομενο Iστοσελιδων
Προγραμμα
τα Συμβολα μιας
Γλωσσας Προγραμματισμου Πχ. ΜathML
DNA
Πρωτεινες
Παιγνιο με Ζαρια
Βιβλιοθηκη της Βαβελ
Βοrges J. L. 1944 Ficciones,
Grove Press 1962
Tα 4 Νουκλεοτιδια
Α,G,C,T
Τα 20 Αμινοξεα
Α,C,D,E,F,G,H,I, K, L,M,N,P,Q, R,S,T,V,W,Y
1,2,3,4,5,6
22 letters, comma, period, space
The 20 Amino Acids directly encoded by the universal genetic code
NAME
ΟΝΟΜΑ
Abbreviation Symbol Produced by Organism
Alanine
Arginine
Asparagine
Aspartic acid
Cysteine
Glutamin acid
Glutamine
Glycine
Histidine
Isoleucine
Leucine
Lysine
Methionine
Phenylalanine
Proline
Serine
Threonine
Tryptophan
Tyrosine
Valine
αλανινη
αργινινη
Ασπαραγινη
ασπαρτικο οξυ
Κυστεινη
γλουταμικο οξυ
γλουταμινη
Γλυκινη
ιστιδινη
ισολευκινη
Λευκινη
Λυσινη
μεθειονινη
φαινυλαλανινη
προλινη
σερινη
θρεονινη
τρυπτοφανη
τυροσινη
βαλινη
ALA
ARG
ΑSN
ASP
CYS
GLU
GLN
GLY
HIS
ILE
LEU
LYS
MET
PHE
PRO
SER
THR
TRP
TYR
VAL
A
R
N
D
C
E
Q
G
H
I
L
K
M
F
P
S
T
W
Y
V
Non Essential
Conditional
Non Essential
Non Essential
Conditional
Non Essential
Conditional
Conditional
Essential
Essential
Essential
Essential
Essential
Essential
Conditional
Conditional
Essential
Essential
Conditional
Essential
Ορισμος
Μηνυμα μηκους m είναι κάθε πεπερασμενη ακολουθια (ψ) = (ψt+1 , ψt+2 , ... , ψt+m) ,
ορων που λαμβανονται από n Συμβολα Σ={σ1, σ2, ... σn} , ψt ∈ Σ
(ψ) ∈ Σm ⊆ ΣF
Xωροι Μηνυματων:
Σm = οι πεπερασμενες ακολουθιες συμβολων από το Σ με m ορους
Σ≤m = οι πεπερασμενες ακολουθιες συμβολων από το Σ με το πολυ m ορους
ΣF = οι πεπερασμενες ακολουθιες συμβολων από το Σ
Σℕ = οι μονοπλευρες (unilateral) ακολουθιες συμβολων από το Σ
Σℤ = οι αμφιπλευρες (bilateral) ακολουθιες συμβολων από το Σ
Kαθε m-αδα (ψt+1 , ψt+2 , ... , ψt+m) ειναι ενα διαταγμενο δειγμα μεγεθους m, εκ των n συμβολων
{σ1, σ2, ... σn}, οπου καθε συμβολο μπορει να επαναλαμβανεται. Ισοδυναμα:
(ψt+1 , ψt+2 , ... , ψt+m) ειναι
Επαναληπτικη Διαταξη (𝜎𝑘1 , 𝜎𝑘2 , ... , 𝜎𝑘𝑚 ) των n συμβολων {σ1, σ2, ... σn} ανα m
Το πληθος των μηνυματων μηκους m είναι
Το πληθος των Επαναληπτικων Διαταξεων n Στοιχειων ανα m: | Υm | = nm
Ορισμος
Η Κλασση ΣF των πεπερασμενων ακολουθιων συμβολων από το Σ
ΣF = Σ*= ⋃𝑚∈ℕ 𝛴 𝑚
Kleene Closure
{A}
To συνολο Σ* εχει απειρο πληθος στοιχειων, ενώ καθε στοιχειο του εχει πεπερασμενο μηκος
Παραδειγμα
Σ = {0, 1},
Σ* = {ε, 0, 1, 00, 01, 10, 11, 000, 001, 010, 011, …}.
Ορισμος
Γλωσσα με Αλφαβητο Σ (L, Σ, 𝓖)
1) Σ={σ1, σ2, ... σn} το συνολο συμβολων, ψηφιων, γραμματων της Γλωσσας
2) 𝒢 = η Γραμματικη της Γλωσσας
= οι κανονες συνταξης λεξεων-προτασεων που οριζουν ποιες λεξεις
(ακολουθιες συμβολων) είναι συντακτικα αποδεκτες (syntactically admissible,valid)
3) L ⊆ ΣF
L(Σ) ένα συνολο μηνυματων = λεξεων με συμβολα από το Σ.
Τα δυνατα κειμενα, η «Γραμματεια» της Γλωσσας
Παραδειγμα: Η Βιβλιοθηκη της Βαβελ που περιεχει τα βιβλια που γραφτηκαν και θα γραφτουν
«the Library is total and that its shelves register all the possible combinations of the twenty-odd
orthographical symbols (a number which, though extremely vast, is not infinite): Everything: the minutely
detailed history of the future, the archangels' autobiographies, the faithful catalogues of the Library,
thousands and thousands of false catalogues, the demonstration of the fallacy of those catalogues, the
demonstration of the fallacy of the true catalogue, the Gnostic gospel of Basilides, the commentary on that
gospel, the commentary on the commentary on that gospel, the true story of your death, the translation of
every book in all languages, the interpolations of every book in all books.»
Βοrges J. L. 1944 Ficciones, Grove Press 1962
The Babel Library has 251312000 ≃ 1.956 x 101834097 books
the alphabet has 25 symbols. Each book has 410 pages, with 40 lines of 80 characters on each page.
Number of symbols in a Book: 410 × 40 × 80 = 1.312.000
Bloch W. G.2008, The Unimaginable Mathematics of Borges’ Library Of Babel, Oxford University Press
The Library of Congress has ∼3 x 107 Books
Number of Orthographically correct Books written in English: ∼ 750000492000 = 102890530
Number of English Words: ∼ 750000
Number of Words per line (including comma, period, space): ∼ 30
Number of Words per Book: ∼ 410 x 30 x 40 = 492000
Symbols
Grammar = Rules for Syntax
Syntax = message (φραση) construction
Μessages, Φρασεις, Logical Forms, Σχηματα
Λογου
Axioms
Inference Rules = Transformation Rules
Semantics , Meaning
Language
Formal
System
Logic =
Logical System
Gerber A., Van der Merwe A.,Barnard A. 2008,
A Functional Semantic Web architecture,
European Semantic Web Conference, ESWC’08,
Tenerife
ΣΧΟΛΙΑ
Συντακτικα Φιλτρα , πχ Ορθογραφος Microsoft Word
Η συντακτικη επεξεργασια μεσω της Γραμματικης είναι αναγκαια για την Νοηματοδοτηση
(Meaning) των Μηνυματων-κειμενων, αλλα δεν επαρκει
Νοηματικη Επεξεργασια (Semantic Processing)
Σημασιολογικα Φιλτρα (Semantic Filters)
ΕΦΑΡΜΟΓΕΣ
Λογικη,
Υπολογιστες,
Προγραμματισμος,
Διαδικτυο
Γλωσσολογια
Βιολογια
Μουσικη
References
Ginsburg Σ. 1975, Algebraic and automata theoretic properties of formal languages,
North-Holland
Harrison Μ. 1978, Introduction to Formal Language Theory, Addison-Wesley.
Hopcroft J. and Ullman J. 1979, Introduction to Automata Theory, Languages and Computation,
Addison-Wesley Publishing, Reading Massachusetts
Rozenberg G., Salomaa A. 1997, Handbook of Formal Languages: Volumes I-III, Springer
Digital to Analog Conversion
= Curve fitting = Smoothing
= finding a curve which has the best fit to a series of data points and possibly other constraints
includes interpolation (exact fit)
regression analysis (approximate fit)
extrapolation
Interpolation = Παρεμβολη
Reconstruction of a function from discrete samples ⇔
Representation of a function in terms of discrete samples
Given the points (y1 , t1) , (y2 , t2), …, (yN , tN)
Find an Interpolation function f within a specific Class 𝒜 of functions : yn = f(tn) , n=1,2,…,N
Regression = Παλινδρομιση
Construct a function within a specific Class 𝒜 of functions
with minimal distance from discrete samples
Least Squares Regression = Least Squares Fit: the Distance is the ℒ 2 – distance
Extrapolation is the extension of f (constructed by Interpolation or by Regression) for t > tN
Regression , Interpolation,
Extrapolation
are called
Polynomial
Rational
Trigonometric
Exponential
Smoothing = Εξομαλυνση
Wavelet
Function Basis of 𝒜
Polynomials
Fractions of Polynomials
Periodic Functions
Fourier Analysis
Exponentials
𝒜 ⊆ 𝒞r is a Class of Smooth functions
Wavelets
Wavelet Analysis
Analog to Digital Conversion
Sampling = Δειγματοληψια
The conversion of Continuous Functions (Signals) to Numerical Sequences (Time Series)
Both DAC (Interpolation) and ADC (Sampling)
are based on
Function Expansion Formulas ⊆ Harmonic Analysis
Ηarmonic Analysis
Function Expansion Formulas
f(t)=∑ν fν uν (t)
uν οrthonormal basis of Functions in some HS of real functions on some interval (a,b)
fν = <f, uν > = ∫(a,b) dt w(t) f(t)⋅uν(t)
w(t)dt = dν(t) the measure on (a,b)
ℒ2([a,b), w) the Hilbert Space of square integrable Functions on [a,b)
with respect to the measure w(t)dt = dν(t)
Approximations of functions with Function Expansion Formulas
Ν
f [𝑁] (t) = � fν uν (t)
ν=1
Ν
Approximation Error:
εΝ = || f−f
Expansions
Taylor Expansion
Weierstrass Theorem
Fourier Series
Special Function Expansions
Wavelet Expansions
[𝑁] (
f [𝑁] (t) = � fν uν (t)
t)||
ν=−N
Taylor Expansion
1
(𝜈)
f(t+x)= ∑∞
(𝑡)𝑥 𝜈
𝜈=0 𝑓
1
𝜈!
(𝜈)
f(x)= ∑∞
(0)𝑥 𝜈
𝜈=0 𝑓
𝜈!
Weierstrass Theorem
every continuous function defined on a closed interval [a,b] can be uniformly approximated as
closely as desired by a polynomial function.
Polynomials are among the simplest functions,
Computers directly evaluate polynomials
Polynomial interpolation.
vr = xr is a basis (non-orthonormal) of the Hilbert Space ℒ2([a,b), w(t)dt)
generalization to several real variables
Fourier Series of the T-Periodic Real Function f (Temporal), T>0
Theorem Riesz-Fisher 1907
f is square integrable ⟺ lim𝑁→∞ � 𝑓 − 𝑓
Proof
[𝑁] 2
� =
𝑇 𝑑𝑡
lim𝑁→∞ ∫0
𝑇
−inωt
with f [𝑁] (t) = ∑+N
,
n=−N Cn e
2
�𝑓 (𝑡) − f [𝑁] (t)� = 0
𝑇 𝑑𝑡 inωt
e
𝑇
Cn = ∫0
f(t)
Dym H., McKean Η.1972, Fourier Series and Integrals, Academic Press, New York
Dunford, N.,Schwartz, J.T. 1958 , Linear operators, Part I, Wiley, New York (IV.16. 4.9 - 4.I3)
Corollary
�𝑢𝑛 = e−inωt , 𝑛 ∈ ℤ�
οrthonormal basis of ℒ2(0,T), ω =
2π
Τ
= the Cyclic Frequency
Fourier Transform: ℒ2(0,T) ⟶ ℓ2(ℤ) : f ⟼ fn = < e−inωt , 𝑓 >
𝑇 𝑑𝑡
Scalar Product of ℒ2(0,T): < 𝑓, 𝑔 > = ∫0
𝑇
𝑓 ∗ (𝑡)𝑔(𝑡)
∗
Scalar Product of ℓ2(ℤ): < (fn ), (𝑔𝑛 ) >ℓ2 (ℤ) = ∑∞
𝑛=−∞ 𝑓𝑛 𝑔𝑛
Exponential Expansion Formula for real periodic functions f with period T>0:
+∞
with
f(t) = � Cn e−inωt
𝑇 𝑑𝑡 inωt
e
𝑇
Cn = < e−inωt , 𝑓 > = ∫0
𝑇 𝑑𝑡
C0 =< 1 , 𝑓 > = ∫0
𝑇
n=−∞
f(t) = the n-Fourier Amplitude of f , 𝑛 ∈ ℤ
f(t) = the Average Value of f over the Period T
Definition
Trigonometric Series Expansion for real periodic functions f with period T:
+∞
f(t) = �[𝛼n cos(nωt) + βn sin(nωt)]
The Fourier Coefficients are
n=0
𝑇 𝑑𝑡
𝛼0 = ∫0
𝑇
𝑇
f(t)
2
αn = � 𝑑𝑡 f(t) cos(nωt) , n = 1,2, …
𝑇
0
βn =
𝑇
2
� 𝑑𝑡 f(t) 𝑠𝑖 𝑛(nωt) , n = 1,2, …
𝑇
0
Aσκηση: {0.1}
Δειξτε τους τυπους των συντελεστων Fourier με την παραδοχη ότι ισχυει
η ιδιοτητα εναλλαγης Ολοκληρωματος
που εχει η Ομοιομορφη συγκλιση Σειρων Συναρτησεων:
𝜯
+∞
+∞
𝜯
� 𝒅𝒕 � [𝛼n cos(nωt) + βn sin(nωt)] = � � 𝒅𝒕 [𝛼n cos(nωt) + βn sin(nωt)]
𝟎
n=0
n=0 𝟎
Σχεση Τριγωνομετρικης – Εκθετικης Σειρας Fourier
𝛼0 = C0
αn= 2ReCn , n=1,2,…
βn= 2ImCn, n=1,2,…
1
Cn = (αn + i βn) , n=1,2,…
2
C– n =(Cn)* =
Proof
1
2
(αn − i βn), n=1,2,…
+∞
−1
+∞
+∞
n=−∞
n=−∞
n=1
n=1
f(t) = � Cn e−inωt = C0 + � Cn e−inωt + � Cn e−inωt == C0 + ��C−n e+inωt + Cn e−inωt �
f real ⟺ (Cn)* = C – n :
−inωt
f(t) = C0 + ∑+∞
] = C0 + ∑+∞
n=1[αn cosωt + βn sin ωt]
n=1 2Re[Cn e
EXAMPLES
Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1}
Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1}
∞
𝟒
𝒔𝒊𝒏(𝟐𝒏 − 𝟏)𝒙
𝐟(𝐱) = �
𝝅
𝟐𝒏 − 𝟏
𝒏=𝟏
Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1}
∞
𝒔𝒊𝒏�(𝟐𝒏 − 𝟏)𝒙�
𝟏 𝟐
(
)
(
)
[
)
𝐟 𝐱 = 𝜽 −𝒙 | 𝟐𝝂𝝅, 𝟐𝝂𝝅 + 𝟐𝝅 , 𝝂 ∈ ℤ = − �
𝟐 𝝅
𝟐𝒏 − 𝟏
Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1}
𝒏=𝟏
𝟐𝝅
∞
𝒙�
𝒔𝒊𝒏 �𝒏
𝟏 𝟏
𝜯
𝐟 (𝐱) = + �
𝒏
𝟐 𝝅
𝒏=𝟏
Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1}
∞
𝟐𝒔𝒊𝒏𝒉(𝝅) 𝟏
(−𝟏)𝒏
𝒙
𝐟(𝐱) = 𝐞 |�(𝟐𝝂 − 𝟏)𝝅, (𝟐𝝂 + 𝟏)𝝅�, 𝝂 ∈ ℤ =
� +�
�𝒄𝒐𝒔 (𝒏𝒙) − 𝒔𝒊𝒏(𝒏𝒙)��
𝝅
𝟐
𝟏 + 𝒏𝟐
Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1}
𝒏=𝟏
Theorem
The Fourier Transform is Unitary
< 𝑓, 𝑔 > = < (fn ), (𝑔𝑛 ) >ℓ2 (ℤ)
𝑇
�
Αποδειξη Aσκηση 0.1
0
∞
𝑑𝑡 ∗
𝑓 (𝑡)𝑔(𝑡) = � 𝑓𝑛∗ 𝑔𝑛
𝑇
𝑛=−∞
Σχεση Διαφορισιμοτητας και Προσεγγισης Fourier
Aσκηση: {1}
Υπολογιστε τα Αναπτυγματα Fourier σε καποιο διαστημα [0, Τ]
𝐟 [𝟓] (𝐭) = ∑5n=0[𝛼n (f) cos(nωt) + βn (f) sin(nωt)
5
𝒈[𝟓] (𝐭) = � [𝛼n (g) cos(nωt) + βn (g) sin(nωt)
n=0
των 5 πρωτων ορων
μιας λειας συναρτησης f και μιας μη λειας συναρτησης g με 2 ακμες
Συγκρινατε τις 2 προσεγγισεις 𝐟 [𝟓] (𝐭) και 𝒈[𝟓] (𝐭) με τις f(t) και g(t) αντιστοιχα.
Power of the Periodic function
The Norm Square
Parseval's Formula
𝑇
∞
𝑑𝑡
|𝑓 (𝑡)|2 = � |𝑓𝑛 |2
||𝑓 || = �
𝑇
2
0
𝑛=−∞
Theorem
Τhe Fourier basis is an orthonormal basis of eigenfunctions of the differentiation
operators
Self-Adjoint Differentiation:
Laplace Operator:
𝑖
−
d
dx
d2
𝑒 −𝑖𝜔𝑡 = 𝜔𝑒 −𝑖𝜔𝑡
dx2
𝑒 −𝑖𝜔𝑡 = 𝜔2 𝑒 −𝑖𝜔𝑡
Early ideas about the Trigonometric Series Expansion of Periodic Functions
go back to Pythagoras
𝜕2 𝜓
Solutions of Wave Equation of Strings 2
𝜕𝑡
=
2
𝜕 𝜓
𝑐 2 2 as Trigonometric Series Expansions
𝜕𝑥
were obtained by J.R. D’Alembert 1747 and D. Bernoulli 1853
𝜕𝜓
Solutions of the Heat Equation
𝜕𝑡
were obtained by J.B. Fourier
=
𝜕2 𝜓
𝛽 2 as Trigonometric Series Expansions
𝜕𝑥
Fourier J.B. 1822, Theorie Analytique de la Chaleur, Didot, Paris. English translation by Freeman E. 1955, Dover, New York.
The notions of Convergence and the classes of functions that can be represented as
Trigonometric Series were clarified later
Dym H., McKean Η.1972, Fourier Series and Integrals, Academic Press, New York
Special Function Expansions
Orthonormal bases on spaces of integrable functions
solutions of differential equations
integrals of elementary functions
Sturm-Liouville Equation
Second order Linear Eigenvalue Equation: SL[ψ]=λψ
𝑑2𝜓
𝑑𝜓
(
)
(
)
a x
+𝑏 𝑥
= 𝜆𝜓
𝑑𝑥 2
𝑑𝑥
Οι ιδιοσυναρτησεις (Eιδικες Συναρτησεις) αποτελουν oρθοκανονικη βαση στους Χωρους ℒ2[(α,β),w]
{Tαξινομιση Ειδικων Συναρτησεων. Θεωρημα Rodriguez}
Dennery P., Krzywicki A. 1969, Mathematics for Physicists, Harper, New York
Miller 1968, Lie Theory and Special Functions, Academic Press, New York
Wawrzynczyk Α. 1984, Group Representations and Special Functions, D.Reidel Publishing Company, Dordrecht
Oι 3 βασικες Ειδικες Συναρτησεις ως βασεις ιδιοσυναρτησεων Τελεστων Sturm-Liouville
Interval
Sturm-Liouville
Equation
(−∞, ∞) Hermite
Equation
[0, ∞)
Laguerre
Equation
[−1,1]
Legendre
Equation
𝒅𝟐 𝒚
𝒅𝒚
𝐚(𝐱) 𝟐 + 𝒃(𝒙)
= 𝝀𝒚
𝒅𝒙
𝒅𝒙
d2 y
dy
− 2 + 2x
= 2n y
dx
dx
d2 y
dy
−x 2 + [−γ + x − 1]
= λy
dx
dx
[−(1 − x
2 )]
d2 y
dy
+
[2x]
= n(n + 1)y
dx 2
dx
Eigenfunctions Basis
Hermite Polynomials
Laguerre Functions
Legendre Polynomials
Weight in the
Scalar Product
w(x)
2
𝑒 −𝑥
𝑒 −𝑥
1
Κατασκευη βασεων σε Xωρους Συναρτησεων επι οιουδηποτε διαστηματος (α,β)
Μετασχηματισμοι Von Neumann
Definition
Von Neumann Transforms of Functions on (t1, t2) to functions on (x1, x2) are
the Unitary Transformations of square Integrable functions supported on (t1, t2)
to square Integrable functions supported on (x1, x2)
V: ℒ2(t1, t2)⟶ ℒ2(x1, x2) : f ⟼ Vf with f (t) ⟼ (Vf)(x):
x2
t2
< 𝑉𝑓, 𝑉𝑔 > = < 𝑓, 𝑔 > ⟺ � dx (Vf)∗ (x)(Vg)(x) = � dt f ∗ (t)g(t)
x1
t1
Misra B., Speiser D.,Targonski G. 1961, Integral Operators in the Theory of Scattering, Helv. Phys. Acta 36, 963-980.
Von Neumann J. 1935, Charakterisierung des Spektrums eines Integraloperators, Actualites Scientifiques et Industrielles
No. 229
VN Transforms Example 1:
1
V: ℒ2(-∞,∞)⟶ ℒ2(0, ∞) : f ⟼ Vf with f (t) ⟼ (Vf)(x) =
-1
V :
ℒ2(0,
∞)⟶
ℒ2(-∞,∞)
√x
f(lnx)
x
2
: f ⟼ V f with f (t) ⟼ (V f)(x) = e f(e𝑥 )
-1
-1
Aσκηση: Δειξτε ότι ο Μετασχηματισμος V είναι Unitary {0.5}
VN Transforms Example 2:
V: ℒ2(0, ∞)⟶ ℒ2(0, 1) : f ⟼ Vf with f (t) ⟼ (Vf)(x) =
1
f�
1−x
1
V-1: ℒ2(0, 1)⟶ ℒ2(0, ∞) : f ⟼ V-1f with f (t) ⟼ (V-1f)(x) =
x
1−x
1+x
�
f�
x
1+x
Aσκηση: Δειξτε ότι ο Μετασχηματισμος V είναι Unitary {0.5}
�
VN Transforms Example 3:
V: ℒ2[0,T)⟶ ℒ2[a,b) : f ⟼ Vf : with f (t) ⟼ Vf(x)=�
b−a
V-1: ℒ2[a,b)⟶ ℒ2[0,T) : f ⟼ Vf : Vf(t)=�
T
b−a
f�
T
T
b−a
t + a�
f�
x−a
b−a
T�
Aσκηση: Δειξτε ότι ο Μετασχηματισμος V είναι Unitary {0.5}
Wavelet Expansions
Wavelets are functions ψ(x) whose translations and dilations 𝜓𝛽,𝛼 �𝛽𝜓(𝛽𝑥 − 𝛼)
provide bases for expansion of integrable functions
Μultiresolution Analysis
Haar Wavelet
Στις Αρχες του 20ου αιωνα πιστευαν πως ολες οι ορθοκανονικες βασεις συναρτησεων ειναι
ιδιοσυναρτησεις Διαφορικων Τελεστων ως λειες συναρτησεις
Υπαρχουν Μη Διαφορισιμες βασεις συναρτησεων?
Ηaar Wavelets
Haar A. 1910, Zur Theorie der orthogonalen Funktionensysteme, Mathematische Annalen 69 no. 3, 331–371
𝜓(𝑥) =
⎧ 1,
⎪
⎨−1,
⎪
⎩ 0,
1
0≤𝑥<
2
1
≤𝑥<1
2
𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒
𝜓𝜈𝛼 = 𝜓(2𝜈 𝑥 − 𝛼), ν, α Integers
Antoniou I., Gustafson K. 1998, Haar’s Wavelets and Differential Equations, J. Diff. Equations 34 829-832
Antoniou I., Gustafson K. 1999, Wavelets and Stochastic Processes, Math.and Computers in Simulation 49, 81-104
Antoniou I. , Gustafson K. 2000, The Time Operator of Wavelets, Chaos, Solitons and Fractals 11, 443-452
Antoniou I. , Suchanecki Z. 2000, Non-uniform Time Operator, Chaos and Wavelets on the Interval,
Chaos, Solitons and Fractals 11, 423-435
Walter G. 1994, Wavelets and other Orthogonal Systems With Applications, CRC, Boca Raton
Frazier M. 1999, An Introduction to Wavelets Through Linear Algebra, Springer, New York
Jorgensen P. 2006, Analysis and Probability Wavelets, Signals, Fractals, Springer, New York
Fractals, Generalized Functions, Chaos
Shannon Wavelet Shannon Interpolation Formula
If a function f(t) contains no frequencies higher than W hertz,
f(t) =
∞
2𝜋𝑊
−∞
−2𝜋𝑊
1
1
� 𝑑𝜔 𝐹 (𝜔)𝑒 𝑖𝜔𝑡 =
2𝜋
2𝜋
� 𝑑𝜔 𝐹 (𝜔)𝑒 𝑖𝜔𝑡
the Fourier Amplitudes 𝐹 (𝜔) vanish outside [−πW, πW]: 𝐹 (𝜔) = 0, for |ω| > π𝑊
Then it is completely determined by giving its ordinates at a series of points spaced 1/(2W)
seconds apart.
f(t) = ∑+∞
𝑛=−∞ 𝑓 �
2𝑊
where:
𝑓𝑛 = 𝑓 �
T=
1
2𝑊
un ( t ) =
𝑛
𝑛
2𝑊
�
sin�𝜋(2𝑊𝑡−𝑛)�
𝜋(2𝑊𝑡−𝑛)
= ∑+∞
𝑛=−∞ 𝑓 (𝑛𝑇 )
𝑡
𝑇
sin�𝜋� −𝑛��
𝑡
𝜋� −𝑛�
𝑇
� = 𝑓 (𝑛𝑇) the samples
the sampling period
𝑡
𝑇
sin�𝜋� −𝑛��
𝑡
𝑇
𝜋� −𝑛�
𝑡
= 𝑠𝑖𝑛𝑐 �𝜋 � − 𝑛�� the Shannon Wavelet
𝑇
= ∑+∞
𝑛=−∞ 𝑓 (𝑛𝑇 ) un (t)
sinc(x) =
sinx
x
= the sinus cardinalis function
Shannon C. 1949 , Communication in the presence of Noise, Proc. Institute of Radio Engineers 37, 10-21.
Reprint as classic paper in: Proc. IEEE, Vol. 86, No. 2, (Feb 1998)
Jerri A. 1977, "The Shannon sampling theorem: its various extensions and applications: A tutorial review"
Proc. IEEE 65, pp. 1565–1589
Higgins J. 1985, "Five short stories about the Cardinal Series" Bull. Amer. Math. Soc. 12, pp. 45–89
Marks II R. 1991, Introduction to Shannon Sampling and Interpolation Theory, Springer, New York.
Higgins J. 1996, Sampling Theory in Fourier and Signal Analysis Foundations, Clarendon Press, Oxford,
New York
Smale S., Zhou D.-X. 2004, Shannon Sampling and Function Reconstruction from Point Values,
Bulletin AMS 41 (3), Pages 279-305.
Aσκηση: {0.8} Παραδειγμα Δειγματοληψιας Shannon
Theorem
1) {sinc(t−k), k inℤ }
is an orthonormal basis of bandlimited real functions with highest frequency π
sin𝜆x
2)
λx
, solutions of the Differential Equation:
Aποδειξη: Aσκηση {0.1}