Intelligence Artificielle (IA)
Artificial Intelligence (AI)
Master Option
(5 ECTS = 5 x 30h)
• Cours /séminaire
• Projet
• Objectives
– To study the main challenges and
methodologies of artificial intelligence
• Prerequisites
– Bachelor in Informatics, namely
Programming (Progr. II), Algorithms (Progr.
IIA)
1
• Content
– Like AI, built around two objectives:
• modeling –human and animal, individual and
collective intelligence– in order to understand it
(science)
• designing artificial intelligence systems, in order
to provide assistance to humans
(engineering)
• Content (cont.)
– Organized in two trends:
• Classical AI :
focus on knowledge representation and knowledge
exploitation.
– Study of main formalisms used for knowledge modeling
(logic/relational, structured and agent-based
approaches), and main categories of problems one can
solve with these formalisms (reasoning, planning,
learning, dialogue,...)
• New AI :
paradigm of emergence and self-organization.
Intelligence understood and modeled as an integral part
of life: embodiment (intelligence in a body) and situation
in the physical world (physical behaviors…)
2
Exam
• Project (50%)
work and results
communication
• Cours /seminar (50%):
oral exam or equivalent
INTELLIGENCE
3
• Ensemble des fonctions mentales ayant pour objet la
connaissance conceptuelle et rationnelle (par
opposition à la sensation et à l'intuition).
Aptitude à comprendre et à s'adapter facilement à
des situations nouvelles.
(Terminologie de neuropsychologie et de neurologie
du comportement. Recherche et réd. Louise Bérubé,
1991)
• Capacité de saisir le réel: permet une pénétration de
l’intime de la réalité, selon l’étymologie qu’il donne du
mot intelligence : intus-legere. Lire à l’intime de la
réalité, c’est-à-dire percer les apparences qui
peuvent être trompeuses.
(Fides et ratio, 1999)
• L'intelligence est la capacité de réagir avec
souplesse aux situations qui se présentent
– tirer profit de circonstances fortuites
– discerner le sens de messages ambigus ou
contradictoires
– juger de l'importance relative de différents
éléments d'une situation
– trouver des similitudes entre des situations malgré
les différences qui peuvent les établir des
distinctions entre des situations malgré les
similitudes qui les rapprochent
– synthétiser de nouveaux concepts à partir
d'anciens concepts assemblés différemment
– trouver des idées nouvelles
(Douglas Hofstadter: "Gödel, Escher, Bach”)
4
• Capacité à comprendre un contexte nouveau,
et à réagir à cette nouvelle situation de façon
adaptée.
(Richard Atkinson)
• Ce qui permet d'entendre une musique là où
d'autres n'entendent qu'un bruit.
(Jean-Charles Terrassier)
• Modelée par le patrimoine génétique et par
l'environnement culturel et affectif, dépendrait
d'un équilibre subtil entre un mode de
traitement rapide des informations et un
mode lent d'analyse de ces données.
• Faculté de connaître, de comprendre et de s'adapter,
faculté d'abstraction et d'anticipation ou encore
intuition [ ... ].
Pour connaître, pour comprendre et pour s'adapter,
en un mot pour faire preuve d'intelligence, il faut que
les perceptions et les sensations que reçoit le
système nerveux central aient un sens, c'est-à-dire
que les différents stimulus sensoriels soient associés,
classés par les structures cérébrales nécessaires au
traitement de l'information et mémorisés. Les étapes
de ce traitement, par exemple la rapidité de
perception d'un stimulus, son stockage, son
évaluation par rapport aux informations déjà
enregistrées, son analyse et la réaction qu'il
déclenche, sont des facteurs de l'intelligence.
(Qu'est-ce que l'intelligence ? Jean-Pol Tassin, dans
Pour la Science, n°254, décembre 1998)
5
• L'intelligence, ça n'est pas ce que l'on sait mais ce
que l'on fait quand on ne sait pas
(Jean Piaget)
• Quel truc magique nous rend intelligent ? Le truc,
c’est qu’il n’y a pas de truc. La puissance de
l’intelligence provient de notre vaste diversité, et non
d’un seul principe parfait.
Marvin Minsky, The Society of Mind, p.308 (Douglas
Hofstadter: "Gödel, Escher, Bach”)
• Capacité à comprendre un contexte nouveau,
et à réagir à cette nouvelle situation de façon
adaptée.
(Richard Atkinson)
• Ce qui permet d'entendre une musique là où
d'autres n'entendent qu'un bruit.
(Jean-Charles Terrassier)
• Modelée par le patrimoine génétique et par
l'environnement culturel et affectif, dépendrait
d'un équilibre subtil entre un mode de
traitement rapide des informations et un
mode lent d'analyse de ces données.
6
• Test de Turing
Test d’imitation défini par Alan Turing
Computing machinery and intelligence »:
A. Turing, Mind, vol. LIX, no. 236, Oct. 1950,
pp. 433-460.
Turing a prédit que les ordinateurs seraient un jour capables de passer le test.
Il estimait qu'en 2000 des machines avec 128 Mo de mémoire pourraient tromper
environ 30% des juges humains durant un test de 5 minutes.
Il a aussi prédit que l'acquisition par apprentissage des ordinateurs serait aussi
importante pour construire des ordinateurs performants (affirmation toujours
plausible aujourd'hui).
En 2007 aucun ordinateur n'a passé le test de Turing. (Malgré ELIZA…)
• ELIZA, 1966
Famous computer program by Joseph
Weizenbaum
• Parodied a Rogerian therapist, mainly by
rephrasing the patient's statements
7
• ELIZA (cont.): a conversation with a young
woman (YM)
…
YM:
Eliza:
YM:
Eliza :
YM:
Eliza :
YM:
Eliza :
YM:
Eliza :
YM:
Eliza :
YM:
My boyfriend says I'm depressed much of the time.
I am sorry to hear you are depressed.
It's true. I'm unhappy.
Do you think coming here will help you not to be unhappy?
I need some help, that much seems certain.
What would it mean to you if you got some help?
Perhaps I could learn to get along with my mother.
Tell me more about your family.
My mother takes care of me.
Who else in your family takes care of you?
My father.
Your father.
You are like my father in some ways.
Eliza : What resemblance do you see?
YM:
You are not very aggressive but I think you don't want me
to notice that.
Eliza : What makes you think I am not very aggressive?
YM:
You don't argue with me.
Eliza : Why do you think I don't argue with you?
YM:
You are afraid of me.
Eliza : Does it please you to believe I am afraid of you?
YM:
My father is afraid of everybody.
Eliza : What else comes to mind when you think of your father?
YM:
Bullies.
Eliza : Does that have anything to do with the fact that your
boyfriend made you come here?
http://www.parlame
8
Visions of AI
• IA faible (engineering)
– construire des systèmes de plus en plus autonomes, des
algorithmes capables de résoudre des problèmes d’une
certaine classe, etc en simulant l'intelligence (Exemple:
Eliza)
– Celle qui “marche” …(exemple: projet Autonomic
Computing d’IBM).
– En continuité de RO (1960), process control (1970), aide à
la décision (1980) et data mining (1990):
intelligence humaine reconstituée et programmation d'un
apprentissage.
• IA forte (science)
– machine capable non seulement de produire un
comportement intelligent, mais d’éprouver une impression
d'une réelle conscience de soi et une compréhension de
ses propres raisonnements et comportements.
9
ROOTS
•
•
•
•
•
•
•
•
Philosophy
Mathematics
Economy
Neurosciences
Psychology
Computer engineering
Cybernetics and control theory
Linguistics
10
HISTORY OF AI
•
Gestation (1943-1955)
•
McCulloch and Pitts:
– Neuron physiology and behavior
– Propositional logics (Russell and Whitehead)
– Theory of computing (Turing)
– Neuron as binary unit
– Results:
(1) Every computable function may be implemented by
simple neuron network
(2) Learning capabilities (Hebb rule)
•
Turing (1950):
– Limitations of neural networks
– Principle of learning by reinforcement
– Genetic algorithms
11
•
Birth (1956): Dartmouth Conference
– Organised in summer 1956
by McCarthy (Princeton, and then Dartmouth)
with Minsky, Shannon, Rochester :
Simon & Newell present a first theorem demonstrator
(Logic Theorist)
•
Initial enthusiasm (1952-1969)
–
–
–
–
–
General Problem Solver (GPS) developed in 1960 by Newell,
Simon and Shaw : inference system transforming formulas by
sequences of operators eliminating the differences between
initial state and goal state
» “Imitates human thought”
» Focus on symbol manipulation
» Human “cognition” thought as symbolic manipulation
system
Geometry Theorem Prover (H. Gelernter), Games (Samuel),..
McCarthy (MIT; Stanford): focus on logics
» LISP (1958)
» Time-sharing
» Advice Taker: reasoning with commonsense on the real
world (generic planning,…)
» Resolution of Robinson
Minsky (MIT): focus on the way systems behave
» Geometrical reasoning by ANALOGY (T. Evans),
STUDENT by D. Bobrow (algebra), ..
» Micro worlds (Block world): vision by D. Huffmann, vision
and constraint propagation by D. Waltz, learning theory by
P. Winston, natural language understanding by T. Winograd
+ SHRDLU, Planner by S. Fahlman,…
Perceptron by F. Rosenblatt: uses Hebb’s rule, result on
convergence of algorithm if correlation exists
12
• Reality proof (1966-1973)
• High predictions (Simon & Newell,..) for near future were
deceived: first system were not scalable in complexity
– Translation machines :
Eg. Russian - English:
» “L’esprit est fort mais la chair est faible”
» “la vodka est bonne mais la viande est avariée”
• Intractability: combinatorial search !
• Genetic Algorithms: idem
• Neural nets: limitations on representation capacity lead
to stop financial support
However ! Back propagation algorithms invented in 1969!
• Knowledge-based systems (1969-1979)
– Instead of trying to built very generic and universal thinking
machines, trying to built efficient ones for specific domains of
expertise
– DENDRAL by D. Buchanan (1969): infers a molecular structure
from the results of a mass spectrogram and an elementary
molecular structure
Uses human expertise:
“if there are two peaks in the mass spectrogram, then there should
be a carbonyle component … “
Knowledge extraction, knowledge engineering
– Heuristic Programming Project by Feigenbaum: evaluation of
applicability of expert systems to multiple domains, namely
medicine:
MYCIN
PROSPECTOR
– Syntactic limitations of SHRDLU for NN understanding: Schank
and Abelson: knowledge representation (world, stereotypes,
human memory organization, etc): focus no more on syntax but on
plan, goal understanding, etc.
– Minsky proposes the Frame model (1975)
– Prolog
– Planner
13
• Industrialisation (1980 - today)
– First commercial expert system by McDermott: R1
for computer system configuration
– Fifth generation project announced in 1981 in Japan
– Alvey report in UK
– Business amounts in billions $
• Comeback of neural networks (1986 - today)
– Still investigated in physics (statistical physics) by Hopfield,
in physiology by D. Rumelhart and G. Hinton
– Re-invention of back-prop by several groups: PDP !
Parallel Distributed Processing by Rumelhart & McClelland
– Connexionnist versus symbolic approaches !!!
14
• AI becomes a science (1987 - today)
– First, AI appeared as a rebellion against theory of control, etc
– Then, all this background is integrated
– Theoretical investigations in different domains, eg.:
» Speech analysis and HMM (Hidden Markov Models)
» Reasoning and Probabilistic models
» NN
» Logics
» etc
• Intelligent agents (1995 - today)
– Universal project of Simon and Newell reconsidered: agent
model:
» SOAR model by Newell, Laird, Rosenbloom,
» SOAP for web services applications
» …
– AI fully integrated in computer engineering
15
INTERDISCIPLINARITY
•
•
•
•
•
•
•
•
Philosophy
Mathematics
Economy
Neurosciences
Psychology
Computer engineering
Cybernetics and control theory
Linguistics
16
• Conclusions
– IA as Science and engineering
– Definition of intelligence:
• difficult: no real agreement
• dynamic
– First: rational thinking (problem solving…)
– Second: embodiment and situation in the physical world
– Main trends in AI
• Weak AI (leads to classical AI): focus on effectiveness
– Technical challenges: representation
– Limitations (frame problem, anchoring, semantic sharing,
bootstrap,…)
• Strong AI (leads to new AI): less effectiveness ?
– Many open challenges, but still hope
– Limitations: bridge to rationality, transfer of human
expertise
– Effectiveness in all computer engineering
17