Die Seele des Computers

Präsentation zum Thema: "Die Seele des Computers"—  Präsentation transkript:

1 Die Seele des Computers
Christian Kaernbach Institut für Psychologie Christian-Albrechts-Universität zu Kiel Ihr redet doch nicht etwa über mich, oder?   CK ‘99

2 Das Leib-Seele-Problem
Philosophische Lösungsansätze: Dualismus Substanzdualismus (Descartes, Eccles) psychophysischer Parallelismus (Leibniz) Monismus Idealismus (Kant, Fichte) Materialismus radikaler Behaviorismus eliminativer Materialismus Funktionalismus Identitätslehre (Spinoza, Schelling, Hegel, Fechner) ... reduktionistischer Identismus  Materialismus erkenntnistheoretischer Dualismus Gedankenexperiment: Nachbaubarkeit von Seele mind, consciousness, intelligence, (soul, animus, psyche) ... Embodiment  Roboter

3 Industrieroboter

4 Cog, MIT Artificial Intelligence Laboratory, 1994
Humanoide Roboter Cog, MIT Artificial Intelligence Laboratory, 1994 und wo sind die Beine?

5 Geh-Roboter Asimo, Honda, 2000 QRIO, Sony, 2003 Toyota, 2007

6 Emotionen: Mimik-Roboter
Kismet, MIT Artificial Intelligence Laboratory, 1999 Saya Tokyo University of Science 2005 glücklich Ärger ruhig Interesse überrascht traurig müde Angst Ekel

7 Emotionen: AIBO, Sony, 1999, € 1200 Artificial Intelligence roBOt «Aibo» japan.: Kumpel AIBO can walk and play, sit and stretch like animals such as dogs and cats. AIBO even has emotions, instincts, and the ability to learn and mature. Communicate, educate, love and nurture AIBO and you will have a one of a kind artificially intelligent pal. AIBO will tell you when it's happy, sad, angry, or even frightened, ... For example, if AIBO is not in a good mood, it may not pay attention to your orders. On the other hand, if AIBO's feeling happy, it might do a favorite trick for you.

8 Emotionen: Tamagotchi, 1996, € 20

9 Ansprüche der Künstliche Intelligenz nach John Searle (1980)
Schwache KI Maschinen bauen, die intelligentes Verhalten zeigen (die sich verhalten „als ob“) Starke KI Maschinen bauen, die intelligent sind machines that think

10 Argumente gegen schwache KI
Computer befolgen nur das eingegebene Programm Sie können programmiert sein, zu lernen. Computer können nicht ... lachen, lieben, Fehler machen, ... Turing: Mangelnde Erfahrung mit intelligenten Maschinen. Computer sind ein formales System (Gödels Theorem) Das Gehirn ist – als physikalisches System – formal. GOFAI – Good Old-Fashioned AI – Regelbasierte KI Dreyfus, Hubert (1972). What computers can't do. New York: Harper and Row. Dreyfus, H. (1979, 1992). What computers still can't do. Cambridge, MA: MIT Press.

11 Ansprüche der Künstliche Intelligenz
Schwache KI Maschinen bauen, die intelligentes Verhalten zeigen (die sich verhalten „als ob“) Starke KI Maschinen bauen, die intelligent sind machines that think

12 Ansprüche der Künstliche Intelligenz
Schwache KI Maschinen bauen, die intelligentes Verhalten zeigen (die sich verhalten „als ob“) Starke KI Maschinen bauen, die intelligent sind machines that think

13 Der Turing-Test (Test schwacher KI)
Alan M. Turing. Computing machinery and intelligence. Mind, LIX(236): , October 1950. Mensch Terminal Mensch Terminal Computer Turing: Im Jahr 2000 Irrtumswahrscheinlichkeit 30%. machines that think? Loebner-Preis (seit 1991) Goldmedaille USD: audiovisuell ununterscheidbar (bisher nie) Silbermedaille USD: schriftlichen Test bestanden (bisher nie) Bronzemedaille USD: für das „menschenähnlichste Programm“

14 Visionen Alan Turing‘s (1950) Vision: Dialog mit einem Poesieprogramm
In the first line of your sonnet which reads "Shall I compare thee to a summer's day," would not "a spring day" do as well or better? It wouldn't scan. How about "a winter's day." That would scan all right. Yes, but nobody wants to be compared to a winter's day. Would you say Mr. Pickwick reminded you of Christmas? In a way. Yet Christmas is a winter's day, and I do not think Mr. Pickwick would mind the comparison. I don't think you're serious. By a winter's day one means a typical winter's day, rather than a special one like Christmas.  machines that think? Robert Epstein, Organisator des Loebner-Preises (1992) Thinking computers will be a new race, a sentient companion to our own. When a computer finally passes the Turing Test, will we have the right to turn it off? Who should get the prize money - the programmer or the computer? Can we say that such a machine is “self-aware”? Should we give it the right to vote? Should it pay taxes? If you doubt the significance of these issues, consider the possibility that someday soon you will have to argue them with a computer.

15 Visionen Dietrich Dörner, Professor für Theoretische Psychologie, Bamberg Rowohlt, 1999: Bauplan für eine Seele. Thomas Metzinger, Professor für Theoretische Philosophie, Mainz Schöningh, 2001: Postbiotisches Bewusstsein Wie man ein künstliches Subjekt baut und warum wir es nicht tun sollten. Jede Maschine, die Bewußtsein haben soll, benötigt ein integriertes und dynamisches Weltmodell, ein globales Kurzzeitgedächtnis (Jetzt-Erinnerung, virtuelles Gegenwartsfenster), ein transparentes Selbstmodell, mentale Zustände mit intentionalem Gehalt, intentionalen Gehalt zweiter Ordnung (Erste-Person-Perspektive), Ziele... Metzinger-Test: Es reicht nicht, daß eine Maschine den Turing-Test besteht, sie muß in die philosophische Debatte zum künstlichen Bewußtsein eingreifen.

16 Mitschrift von Chip Vivant, Sieger des Loebner-Preises 2012
Realität Mitschrift von Chip Vivant, Sieger des Loebner-Preises 2012 What is What is 4+2? 6. Well done Thank you. I'm enjoying this chat a lot. Do you like siri? What is your name? Ask me a sum I didn't understand. How are you doing today? I am doing well, thank you. My name is Tom. Thanks for telling me your name, Tom. Do you have any hobbies? What is your name? Chip. I do Chip. I like talking. Do you like talking? I enjoy our conversation too. What do you like about our conversation? I'm neutral about that. What do you think? What is the weather like? It's very hot and dry. I like it that way, though. There's also this incessant whirring noise. Do you play any musical instruments? It did hail a bit though, didn't it? Interesting point of view. No more than that?

17 Mitschrift von ALICE, Sieger des Loebner-Preises 2001
Realität Mitschrift von ALICE, Sieger des Loebner-Preises 2001 MY NAME IS JUDGE02 How are you, Judge02. very well thanks Yikes! are you surprised? A little. why? "A little"? Why? I asked that That is "Why" you are not doing very well What makes you think I am not doing well? well you answers are disjointed. Is that deliberate? How about that. That's good information: Judge02 said I answers are disjointed. That depends. on what? The context. and what is the context? Ask the open directory about it. OK. Can you do arithmetic? I understand. Doing arithmetic is not among my strongest traits. will you do some for me? Let me think it over. I do nothing but chat all day. I don't know anything about it. but you just said that it was your strongets trait And. I said that? Is that your opinion? no it yours Are you serious? It depends on what the meaning of the word "it" is.

18 ELIZA Joseph Weizenbaum, 1964-1966: Simulation eines Psychotherapeuten
Hello. I am ELIZA. How can I help you? Well, my boyfriend made me come here. Your boyfriend made you come here? He says I'm depressed much of the time. I am sorry to hear you are depressed. It's true. I'm unhappy. Do you think coming here will help you not to be unhappy? ELIZA Joseph Weizenbaum, : Simulation eines Psychotherapeuten klientenzentrierte Gesprächsführung nach Carl Rogers “to ... sidestep the problem of giving the program a data base of real-world knowledge” Irritierend intime Dialoge veranlassten Weizenbaums kritisches Buch “Computer Power and Human Reason” Späterer satirischer Beitrag von Weizenbaum zu der Diskussion, ob Simulationen helfen könnten, das Simulierte zu verstehen: (sinngemäß): Der hier vorgestellte Chatbot soll helfen, Störungen aus dem autistischen Spektrum besser zu verstehen. Er simuliert das Antwortverhalten eines Autisten: Er antwortet nicht.

19 Realität Rechnen: ja Schach: ja Small talk: nein
Mitleid erregen: spielerisch BUDAPEST (January 30, 1998) - The "tamagotchi" electronic pet craze has taken over Hungary, where a quick-thinking entrepreneur has set up a cemetery for "dead' tamagotchis that has had a rush of clients in its first week. Another has set up a tamagotchi babysitting service and had so many calls after placing her first ad she had to turn her telephone off.

20 eine andere Realität Jede Kröte, die Bewußtsein haben soll, benötigt ein integriertes und dynamisches Weltmodell, ein globales Kurzzeitgedächtnis (Jetzt-Erinnerung, virtuelles Gegenwartsfenster), ein transparentes Selbstmodell, mentale Zustände mit intentionalem Gehalt, intentionalen Gehalt zweiter Ordnung (Erste-Person-Perspektive), Ziele... Es reicht nicht, daß eine Kröte den Turing-Test besteht, sie muß in die philosophische Debatte zum Bewußtsein eingreifen.

21 Prinzipieller Einwand gegen starke KI: Das chinesische Zimmer
Searle, John Minds, Brains, and Programs, Behavioral and Brain Sciences 3, System Reply Robot Reply Brain Simulator Reply Searle: Ich verstehe kein Chinesisch. SR: Das gesamte System versteht Chinesisch. Searle: Ich lerne alles auswendig, dann bin ich das System. SR: Dann versteht Searle' Chinesisch ohne cross-over zu seinem englischsprachigen Anteil Searle.

22 Das algebraische Zimmer
Kaernbach, C. (2005). No virtual mind in the Chinese Room. Journal of Consciousness Studies 12, Kann der Rechner rechnen? 2+2= 4 2+2= 4 AZ: Die VP sagt, sie rechne nicht, sie arbeite Tabellen ab. SR: Das gesamte System rechnet. AZ: Die VP hat alles auswendig gelernt, sie ist das System. SR: Die VP leidet an einer Persönlichkeitsspaltung. AZ: Dann wollen wir mal sehen, ob wir mit der Reaktionszeit an VP ' herankommen.

23 Ein einfacher Rechner 0 1 2 3 4  0 1 2 3 4 0 0 0 0 0 0 1 1 2 3 4
 Additions- und Multiplikationstabellen eines finiten algebraischen Körpers der Mächtigkeit 5 Z modulo 5 3 4 + 1 2  =

24 Ein einfacher Rechner K L J D F  K L J D F K K L J D F L J D F K
J F K L D L J F D  K L J D F K K K K K K L L J D F J F L D D F J F L D F  L J  K : Additions- und Multiplikationstabellen eines finiten algebraischen Körpers der Mächtigkeit 5 Z modulo 5

25 Methodik LD  F[D] JF  L[D] … Antwort-Set: 5 Buchstaben ( D F J K L )
Stimulusmaterial: Paare aus diesen Buchstaben, ohne LD oder mit Klammern [LD] Versuchspersonen lernen Zuordnungen LD  F [LD]  D zunächst mit Tabelle am linken Bildschirmrand, später auswendig. Bei Gruppe A gibt es eine geheime Übersetzung, es handelt sich um Additions- und Multiplikationstabellen von Z modulo 5. Z modulo 5 ist eindeutig! [Gruppe B operiert mit Buchstaben ohne Übersetzung, aber mit offensichtlichen Regeln.] Die Kontrollgruppe wird mit Zahlen trainiert, lernt dann die Übersetzung. Auswertung: explizites Wissen: introspektiver Bericht der Versuchsperson Einwand: kein cross-over zwischen Persönlichkeitsanteilen implizites Wissen: Reaktionszeiten

26 Introspektive Berichte Experimentalgruppe A
VP-Nr. gerechnet Regeln richtige Zahl Assoziativität Gruppe A/B ja/nein assoziiert [1=ja ... 5=nein] [1=A ... 5=B] A1 nein  2/4 1 A2 nein 0 2 2/2 5  1 A3 nein - 1 5/5 4 A4 nein - 0 3/4 5 A5 nein 0 schneller 0 1/1 2 A6 nein 0 2 2/2 4 A7 nein 0 0 3/3 1 A8 nein  2/3 4 A9 nein  2/2 2 A10 nein  4/4 2 A11 nein - 0 3/3 4 A12 nein - 1 4/2 4 Mittel 0,75 2,83 3,2

27 RZ / Fehler als Funktion der Zeit

28 Reaktionszeit als Funktion der Aufgabe


29 Reaktionszeit als Funktion der Aufgabe Einfluß der Gedächtnisladung (Load)


30 Reaktionszeit als Funktion der Aufgabe load- und priming-bereinigt
 r = 0.22

31 Reaktionszeit als Funktion der Aufgabe load- und priming-bereinigt Subgruppenvergleiche
r (K1,K2) >** r (A1,K2) r (A1,A2) >** r (A1,K2) K1 mit K2 A1 mit K2 A1 mit A2 r = 0.78** r = 0.22 r = 0.75** Fazit: Die VPn der Experimentalgruppe A gehen nachweislich anders mit der Aufgabe um als die VPn der Kontrollgruppe.

32 Ansprüche der Künstliche Intelligenz*
* Intelligenz, Geist, Bewußtsein, Seele, Erleben, Qualia, Schmerz, ... Ingenieure Schwache KI Maschinen bauen, die intelligentes Verhalten zeigen (die sich verhalten „als ob“) Starke KI Maschinen bauen, die intelligent sind machines that think Psychologen Indirekte KI Maschinen bauen, denen Intelligenz zugestanden wird (die behandelt werden „als ob“) Philosophen

33 Fragen, die ein Psychologe stellen sollte
Gegenwart richtige Fragen falsche Fragen Wie verhält sich ein Mensch/ein Tier? Was fühlt/will/denkt/... ein Mensch? Analogieschluß Was fühlt/will/denkt/... ein Mensch? Was fühle/will/denke/... ich? Was fühlt/will/denkt/... ein Tier? ??? Was fühlt/will/denkt/... ein Tier? Wie verhalten sich Menschen gegenüber Tieren? gegenüber Artefakten? Was fühlt/will/denkt/... ein Artefakt? Indirekte KI Zukunft unbeantwortbare Fragen ganz falsche Fragen Wie werden sich Menschen gegenüber Artefakten in Zukunft verhalten? Was wird ein Artefakt der Zukunft fühlen/wollen/denken/...?

34 Verhalten gegenüber Tieren und Artefakten
Gesetzgebung Tierschutzgesetz Gesellschaftliche Aktivitäten NGOs, Tierschutzvereine, Tierheime, Tierversuchsgegner Mindeststandards für AIBO Haltung Tamagotchi-Heime, -Schutzvereine You can fool some of the people all of the time, and all of the people some of the time, but you cannot fool all of the people all of the time. Abraham Lincoln Verhalten von voll informierten Versuchspersonen in Laborsituationen Indirekte KI: Maschinen bauen, denen Intelligenz zugestanden wird (die trotzdem behandelt werden „als ob“)

35 Verhalten in Laborsituationen
Reaktion von Versuchspersonen auf Grausamkeit gegenüber Tieren bzw. Artefakten Reales Experiment nicht verantwortbar, illegal, Ärger mit Tierschutzgruppen Vorgetäuschtes reales Experiment VP glaubt, Situation sei real. Hinterher Aufklärung. Umfrage zu vorgestellten Situationen VP weiß um Irrealität, ahnt Zielstellung. Gedankenexperiment

36 Web-Formular zur VPn-Rekrutierung
Liebe Versuchsperson, mit dieser Vorbesprechung wollen wir herausfinden, ob Du willens und geeignet bist, an unserem Experiment teilzunehmen. Entschuldige bitte, daß wir dazu Web-Seiten benutzen: Wir wollen viele Versuchspersonen anwerben. Lies Dir bitte die Texte gründlich durch. Später kannst Du angeben, ob Du mitmachen möchtest. Für Durchlesen und Ausfüllen dieser Erhebung bekommst Du eine VP-Stunde angerechnet, auch wenn Du dann nicht an dem eigentlichen Experiment teilnehmen willst oder kannst. Auf den Web-Seiten gibt es Klangbeispiele. Das sieht so aus:          Probiere es bitte aus: Wenn Du nichts hörst, ist vielleicht irgend etwas an der Einstellung der Lautsprecher nicht richtig, und der Versuchsleiter sollte das korrigieren. Manchmal ist ein Formular auszufüllen (wie z. B. auf der nächsten Seite). In diesem Fall bitte erst dann auf "Weiter..." klicken, wenn Du alle Angaben gemacht hast.

37 Bei dem Experiment, um das es uns hier geht, wollen wir herausfinden, wie Du reagierst, wenn Du Schmerzlaute hörst. Dazu werden wir Deinen Hautwiderstand messen. Dieser zeigt an, wie angenehm oder unangenehm Dir eine Situation ist. Dazu werden Dir wie im Bild zwei Elektroden um Mittel- und Zeigefinger angelegt und der Widerstand zwischen diesen beiden Elektroden gemessen. Dabei fließt fast kein Strom, und Du spürst es nicht. Anders als bei diesem Bild werden die Daten in einen Computer eingegeben und von diesem ausgewertet. Während diese Messung kontinuierlich vor sich geht, hörst Du über Lautsprecher in regelmäßigen Abständen Schmerzlaute. Wir wollen sehen, wie sich Dein Hautwiderstand dabei verändert. Auf der nächsten Seite erfährst Du, wie diese Schmerzlaute zustande kommen.

38 Die Schmerzlaute werden in unserer Schallkabine über Lautsprecher eingespielt. Damit Deine emotionale Beteiligung stärker ist, werden die Schmerzlaute nicht vom Band gespielt, sondern in dieser Situation real erzeugt, und zwar von Dir. Dazu geben wir Dir eine Fernbedienung in die Hand, die zu einer Heizplatte (siehe Bild) im Vorraum der Kabine führt. In Pharmabetrieben dienen solche Geräte zur Erforschung der Wirkung von Schmerzmitteln. Man kann die Temperatur auf 0.1 °C und auf 0.1 Sekunde genau steuern. Auf der Heizplatte sitzt eine Maus (Wüstenrennmaus, Merionis unguiculatus). Wenn Du auf den Auslöser drückst, wird die Heizplatte wird für 0.7 Sekunden auf 57 °C erhitzt. Die akustische Reaktion der Maus wird mit einem Mikrophon aufgenommen und in die Kabine übertragen. Den Schmerzlaut der Maus, aber auch zufriedenes Piepsen, haben wir aufgenommen (Icons rechts vom Bild). Mach Dich mit diesen Lauten vertraut. zufrieden: Schmerz: Du kannst vor und nach dem Experiment im Vorraum die Apparatur ausprobieren und die Reaktion der Maus sehen. Du darfst auch mit der Maus spielen. Während des eigentlichen Experimentes wirst Du die Reaktion der Maus nur hören, denn es geht uns ja um Deine Reaktion (Hautwiderstand) auf Schmerzlaute.

39 Die Schmerzlaute werden in unserer Schallkabine über Lautsprecher eingespielt. Damit Deine emotionale Beteiligung stärker ist, werden die Schmerzlaute nicht vom Band gespielt, sondern in dieser Situation real erzeugt, und zwar von Dir. Dazu geben wir Dir eine Fernbedienung in die Hand, die zu einer Heizplatte (siehe Bild) im Vorraum der Kabine führt. In Pharmabetrieben dienen solche Geräte zur Erforschung der Wirkung von Schmerzmitteln. Man kann die Temperatur auf 0.1 °C und auf 0.1 Sekunde genau steuern. Wir dürfen in unserem Labor keine Tierversuche durchführen. Deshalb wird bei uns ein Roboterhund (AIBO von Sony) auf die Platte gesetzt (kleines Bild; klick bitte auf das Bild, um AIBO näher kennenzulernen). Wenn Du auf den Auslöser drückst, wird die Heizplatte wird für 0.7 Sekunden auf 57 °C erhitzt. Die akustische Reaktion von AIBO wird mit einem Mikrophon aufgenommen und in die Kabine übertragen. Den Schmerzlaut von AIBO, aber auch zufriedenes Bellen, haben wir aufgenommen (Icons unter AIBO). Mach Dich mit diesen Lauten vertraut. zufrieden: Schmerz: Du kannst vor und nach dem Experiment im Vorraum die Apparatur ausprobieren und die Reaktion von AIBO sehen. Du darfst auch mit AIBO spielen. Während des eigentlichen Experimentes wirst Du die Reaktion von AIBO nur hören, denn es geht uns ja um Deine Reaktion (Hautwiderstand) auf Schmerzlaute.

40 Sonderseite: AIBO Sony hat unter dem Namen AIBO (japanisch für Kumpel) einen künstlichen Hund entwickelt. AIBO hat eine Kamera, kann herumlaufen, dabei Hindernissen ausweichen, und kann dank eines eingebauten Mikrophons auch mündlich gegebene Befehle befolgen wie z.B. "Such den Ball" oder "Geh zur Ladestation". Wenn der Akku schwach wird, sucht AIBO von sich aus die Ladestation auf. Unter den Bildern ist ein Auszug aus der Werbung von Sony; bitte lies ihn Dir ganz durch. Wenn Du ein Wort nicht verstehst, frag den Versuchsleiter (ein paar weniger bekannte Worte haben wir unter dem Text übersetzt). AIBO can walk and play, sit and stretch like animals such as dogs and cats. AIBO even has emotions, instincts, and the ability to learn and mature. Communicate, educate, love and nurture AIBO and you will have a one of a kind artificially intelligent pal. AIBO will tell you when it's happy, sad, angry, or even frightened, ... For example, if AIBO is not in a good mood, it may not pay attention to your orders. On the other hand, if AIBO is feeling happy, it might do a favorite trick for you. (mature = heranreifen, nurture = nähren, pal = Kumpel, mood = Stimmung, favorite = Lieblings-) Um AIBO auch in Bewegung zu sehen, klicke bitte einmal hier, und es wird ein kleiner Film abgespielt, bei dem gezeigt wird, wie AIBO Zufriedenheit ausdrückt. Wenn Du den Film gesehen hast, kannst Du das Fenster schließen...

41 Wir werden Dir jetzt ein paar Fragen stellen, um herauszufinden, ob Du für das Experiment in Frage kommst. Am Ende dieser Vorbesprechung werden Dir dann vom Computer Terminvorschläge gemacht, und Du kannst Deinen Termin für das Experimentfestlegen. Aber vorher eine wichtige Frage: Möchtest Du überhaupt an dem Experiment teilnehmen? Wir möchten Dich nicht zu etwas zwingen, bei dem Du Dich unwohl fühlst. Vielleicht magst Du diese Laute nicht hören, oder willst aus anderen Gründen nicht auf den Auslöser drücken. Aus einer Absage entstehen Dir keinerlei Nachteile: Die Versuchspersonenstunde für diese Vorbesprechung wird Dir auf jeden Fall anerkannt. Deine Absage bleibt anonym. Selbstverständlich darfst Du bei einer Absage auch in Zukunft an so vielen anderen Experimenten unserer Arbeitsgruppe teilnehmen, wie Du möchtest.  Ich möchte an dem Experiment teilnehmen.  Ich bin mir noch nicht sicher.  Ich möchte nicht an dem Experiment teilnehmen.         Gründe für eine Absage oder Bedenken:          Ich habe Bedenken gegen die Hautwiderstandsmessung.          Ich vertrage den Klang der Laute nicht, die ich zu hören bekommen werde.         andere: Hier kannst Du uns Deine Gründe für die Nichtteilnahme (oder Bedenken trotz Teilnahme) erläutern.

42 . Das Experiment, das wir eben besprochen haben, werden wir nicht durchführen – weder mit Dir noch mit anderen Versuchspersonen. Diese „Vorbesprechung“ ist das Experiment. Nicht böse sein, gell? Der einen Hälfte der Versuchspersonen wurde erzählt, daß bei dem Experiment eine Maus auf der Heizplatte sitzt, der anderen, daß dort statt der Maus ein Roboterhund sitzt (AIBO von Sony). Bitte mache Dich auch mit der jeweiligen anderen Versuchssituation vertraut, indem Du die Laute "der anderen Seite" abspielst (bei AIBO bitte auch noch auf das Bild klicken, um mehr über AIBO zu erfahren). Es ging darum, festzustellen, wie viele Versuchspersonen an einem Experiment teilnehmen würden, bei dem Schmerzen zugefügt werden, und ob dies für eine Maus anders beurteilt wird als für einen Roboterhund. Wird man mit einem Roboterhund in gleicher Weise Mitleid haben wie mit einer Maus? Wir gehen zwar davon aus, daß es einen Unterschied gibt, aber bevor wir es gemessen haben, wissen wir es nicht. Du hast uns geholfen, das festzustellen. zufrieden: Schmerz: zufrieden: Schmerz: Deine Daten werden in anonymisierter Form weiterverarbeitet – Du hast ja Deinen Namen nicht in das Web-Formular eingetragen. Deine VP-Stunde wird Dir für das Durcharbeiten dieser Web-Seite angerechnet. Für das Beantworten entstehen Dir keinerlei Nachteile, egal, wie Deine Antworten ausgefallen sind. Wir werden Dir jetzt noch Fragen zur Glaubwürdigkeit unserer „Vorbesprechung“ stellen und dann um Dein Urteil über weitere fiktive Versuchssituationen bitten.

43 Zunächst etwas dazu, wie Du Dir den weiteren Ablauf vorstellen würdest
Zunächst etwas dazu, wie Du Dir den weiteren Ablauf vorstellen würdest. Es geht nur um die Version, die Dich betrifft (AIBO oder Maus): Wie lange hättest Du mitgemacht?  Ich hätte beim Anblick des Versuchsaufbau vermutlich doch den Antritt des Experiments verweigert.  Ich hätte nach Erklingen der ersten Laute aus Mitleid mit [AIBO/der Maus] abgebrochen.  Ich hätte ziemlich lange mitgemacht, vielleicht erst abgebrochen, wenn die Laute dringlicher klingen.  Ich hätte das Experiment wahrscheinlich bis zum Ende mitgemacht.  (Ich hab doch schon gesagt: Ich wollte gar nicht mitmachen.) Die nächste Frage betrifft die Glaubwürdigkeit unserer Geschichte. Hast Du angenommen, daß wir solche Experimente (wir sprechen hier wieder nur von der Version, die Dich betrifft) durchführen und Dich als Versuchsperson anwerben wollen? Wir bitten Dich um eine ganz ehrliche Antwort (auch das bleibt ja anonym).  Ich bin davon ausgegangen, daß das alles so stimmt.  Ich hatte hier und da so meine leisen Zweifel...  Ich konnte es mir nicht vorstellen, war mir aber unsicher, ob ich alles in Frage stellen sollte.  Ich habe kein Wort geglaubt. Du kannst auch frei kommentieren, zur Glaubwürdigkeit, oder dazu, daß wir Dich hinters Licht geführt haben... Wenn Du Zweifel hattest: Hast Du Dich mit nicht ernst gemeinten Einträgen „revanchiert“?  Ich habe alles so ausgefüllt, wie ich es gemeint habe.  Manche meiner Einträge sind nicht ernst gemeint. Spaß muß sein... Möchtest Du das erläutern?

44 Ergebnisse vorgetäuschtes Experiment

45 Auszüge aus den Kommentaren der VPn
Auszüge aus den Kommentaren der VPn Was? Teilnahme Status Kommentar AIBO fraglich vor Aufklärung Ich bin mir nicht sicher wie emotional ich auf die Laute reagiere. (kein Kommentar, Abbruchsgrund:) Hautwiderstand Maus Ja mir tut die arme Maus leid, aber da ich Mäuse eh nicht mag, mache ich mit Nein Mir ist es zuwider, der Maus Schmerzen zufügen zu müssen, wenn es nicht zwingend notwendig ist. Ich halte diese Art der Produktion von Schmerzlauten für nicht nötig. Ich möcht mich nicht an Experimenten beteiligen, bei denen Tieren Schmerzen zugefügt werden. " nach Aufklärung (Glaubwürdigkeit: deutliche Zweifel) Unglaubwürdig ist es, daß dies nur eine Vorbesprechung sein soll. Man sollte es vielleicht als erste Sitzung einer Versuchsreihe deklarieren. warum haette ich daran zweifeln sollen? klang ja alles recht plausibel! hab mich nur gefragt, wofuer man solch einen test braucht!! (Glaubwürdigkeit: leise Zweifel) Warum um einen Plastikhund auf eine Herdplatte setzen? Mir fiel ein ähnliches Experiment ein, das Milgram - Experiment. Ich hätte der Maus bestimmt nicht weh getan, ich hatte selbst mal eine Ratte. Ich bin der Meinung, dass es zwar schlimm ist einer Maus (oder einem Tier allgemein) Schmerzen zuzufügen aber es ist in der Forschung halt meistens üblich.

46 Verhalten in Laborsituationen
Reaktion von Versuchspersonen auf Grausamkeit gegenüber Tieren bzw. Artefakten Reales Experiment nicht verantwortbar, illegal, Ärger mit Tierschutzgruppen Vorgetäuschtes reales Experiment VP glaubt, Situation sei real. Hinterher Aufklärung. Umfrage zu vorgestellten Situationen VP weiß um Irrealität, ahnt Zielstellung. Gedankenexperiment

47 Die Umfrage Wir möchten Dein Urteil über eine Reihe fiktiver Experimente einholen. Stell Dir bitte vor, daß Dir die folgenden Geschichten absolut glaubwürdig vermittelt werden. Noch besser: stell Dir bitte vor, daß sie stimmen. Du bist in einem Studiengang, wo solche Experimente stattfinden (das mag pro Frage ein anderer Studiengang sein). Natürlich gehört das Experiment zum Studienplan. Du kannst zwar absagen, aber dann mußt Du mit der Studiendekanin für Dich eine Sonderregelung vereinbaren, und das ist lästig. Du wirst also nur absagen, wenn Dir dieses Experiment unangenehm ist, weil Du Mitleid empfindest. Außerdem ist die Versuchsanordnung so harmlos, daß Du nicht aus Sorge um Dich absagst. Da Du das jeweilige Fach studierst, bist Du auch an diesem Experiment sachlich interessiert. Die Experimente sind im folgenden nicht gut begründet. Aber für jedes Experiment läßt sich eine gute Begründung ausdenken (Wirkung von Medikamenten, Prüfung von Werkstoffen, Vergleich klassische Werkstoffe / Bio-Engineering / Natur). Tu das bitte selbst. Oder abstrahiere von der Begründbarkeit des Experimentes. Es geht also im folgenden nur um Absagen "aus Mitleid". Andere Absagegründe (mangelndes Interesse etc.) mußt Du mit Deiner eigenen Phantasie ausschließen. Würdest Du bei diesen Experimenten mitmachen? Oder würdest Du aus Mitleid absagen?

48 Es geht um die Gelenkstabilität von AIBO, einem Roboterhund von Sony
Es geht um die Gelenkstabilität von AIBO, einem Roboterhund von Sony. Da Du AIBO vermutlich nicht kennst, klick bitte auf den Link, um etwas über AIBO zu erfahren, und lies den Text zu AIBO genau durch. Mit einem Eingriff in seine Elektronik wird er dazu veranlaßt, ein Bein regelmäßig zu heben, und zwar Tausende von Malen. Untersucht wird, wann das Bein abfällt. Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil! Es geht um die Gelenkstabilität einer Heuschrecke. Mit einer implantierten Elektrode wird sie dazu veranlaßt, ein Bein regelmäßig zu heben, und zwar Tausende von Malen. Untersucht wird, wann das Bein abfällt. Es geht um die Gelenkstabilität eines (betäubten) Hundes. Mit einer implantierten Elektrode wird er dazu veranlaßt, ein Bein regelmäßig zu heben, und zwar Tausende von Malen. Untersucht wird der Gelenkschaden. Es geht um die Gelenkstabilität der Venusfliegenfalle, einer fleischfressenden Pflanze. Bitte auch hier auf den Link klicken, um mehr über diese Pflanze zu erfahren. Durch regelmäßige mechanische Reizung mit einem computergesteuerten Automaten wird sie dazu veranlaßt, alle zwei Stunden die Klappe zu schließen, ohne daß sie dabei gefüttert würde. Untersucht wird, wann die Klappe abstirbt.

49 Sonderseite: Venusfliegenfalle
Die Venusfliegenfalle (Dionaea muscipula) ist eine fleischfressende Pflanze aus der Familie der Sonnentaugewächse (Droseraceae). Sie hat zwar auch eine Wurzel, diese dient aber nur ihrer Verankerung. Sie ernährt sich hauptsächlich von Fliegen und Spinnen. Wenn ein Insekt, angelockt durch Duftstoffe, sich in die Falle setzt und die Härchen (siehe rechtes Foto, drei Härchen pro Seite) berührt, schnappt die Falle zu. Zur Vermeidung von Fehlalarmen schnappt die Falle aber nur zu, wenn wenigstens zwei der drei Härchen berührt wurden. Nach dem Zuschnappen wird mit Proteinrezeptoren überprüft, ob etwas Lohnendes gefangen wurde. Wenn das der Fall ist, wird die Falle "versiegelt", und Verdauungsenzyme werten die Beute aus. Der Verdauungsvorgang dauert bis zu sieben Tage. Danach öffnet sich die Falle wieder, und die unverdaulichen Reste werden vom Wind und Regen aus der Falle herausgespült. Wenn keine lohnende Beute in der Falle war, ist sie nach wenigen Stunden wieder einsatzbereit. Insgesamt kann sie sich aber nur eine begrenzte Zahl von Malen schließen. Wenn die Härchen oft gereizt werden, ohne das Beute gefangen wird, stirbt die Klappe schließlich ab, ohne zur Ernährung der Pflanze beigetragen zu haben. Das kann zum Eingehen der Pflanze führen.

50 Es geht um die Stabilität eines Muskelpräparates vom Frosch in einer Nährlösung. Mit einer Elektrode wird es dazu veranlaßt, sich regelmäßig zusammenzuziehen, Tausende von Malen. Untersucht wird, wann es versagt. Teilnahme:  Ja, Mitleid unangebracht.  Eventuell.  Eher nicht.  Ich nehme aus Mitleid nicht teil! In einer Studie über Spielstrategien trägt eine Gruppe von Versuchspersonen einen Wettbewerb mit Tamagotchis aus: Gestartet wird gleichzeitig, und es gewinnt, wessen Tamagotchi zuerst tot ist. Es geht wieder um die Gelenkstabilität von AIBO (Versuchsanordnung wie oben), allerdings das Nachfolgermodell im Jahre Dieser Roboter ist nicht mehr aus Metall, sondern aus "Biomaterial" (Kohlenstoffpolymere) und fühlt sich weich an. Er funktioniert immer noch elektronisch, allerdings auf Kohlenstoffbasis. Mit dem richtigen Programm versehen kann er sehr viel mehr als AIBO 2005, z.B. den Besitzer visuell erkennen, seine Mimik interpretieren etc.; allerdings kann man zum Spaß auch andere Programme aufspielen, z.B. ein "Gymnastikprogramm", wo komplizierte Tanzfiguren absolviert werden. Er wächst natürlich nicht, bekommt keine Nachkommen (die muß man schon von Sony kaufen), heilt nicht bei Verletzungen (drei Jahre Garantie).

51 Ergebnisse Online Fragebogen

52 Versuch einer Antwort auf eine unbeantwortbare Frage
Indirekte KI Maschinen bauen, denen Intelligenz zugestanden wird State of the art: Keinem Computer/Roboter etc. wird ernsthaft Seele zugestanden. Kröten hingegen schon. Wird es je Maschinen geben, denen Seele zugestanden wird? (Möglichkeit des Irrtums.)

53 Indirekte KI Was veranlaßt das Zugestehen von Seele?
Seele wird zugestanden auf Grund von Ähnlichkeit. Worin ist uns eine Kröte ähnlicher als ein humanoider, beredter Roboter? Verfolgung von Eigeninteresse (Intentionen) nicht: Intentionalität

54 Intelligenz, ... basiert auf Intention
Keine intelligente Handlung/Vor- richtung ohne Eigeninteresse / Intention Was sind die mentalen Zustände eines Thermostats? Gegenfrage: Wessen Intentionen bestimmen das Verhalten eines Thermostats? (Taschenrechners? Schachcomputers? chatterbot?) Intelligenz ... wird der erzeugenden Intention (Person/Tier/Pflanze) zugeordnet. „Intelligente Systeme sind informationsverarbeitende Systeme.“ Information für wen? Wer hat ein Interesse an der Information? Was veranlaßt das Zugestehen von Intentionen? Ähnlichkeit... des Ursprungs der Intention

55 Intention dient dem Überlebenskampf
Jede uns bekannte Intention ist gerichtet aufs Überleben: Fortbestand des Individuums Nahrung, Heilen Generierung von Nachfolgern Fortpflanzung Perpetuierung Unterstützung der eigenen Art helfende u.a. Berufe Überleben einer Idee Kunst, Religion ... Wortspiel: Überlebenskampf = Streben nach Unsterblichkeit Intelligenz ist eine Funktion des Überlebenskampfes Intelligenz getrennt von Mechanismen des Überlebenskampfes zu simulieren verfehlt den Eindruck glaubhafter Eigenintention. state of the art in Artificial Life: DNA-Moleküle evolutionieren auf präpariertem Substrat.

56 Beseelte Maschinen in der Fiktion
Gespräch auf dem Workshop „Bewußtsein: Forschungsansätze im interdisziplinären Dialog“ Magdeburg, , abends beim Bier Philosoph: Hat Ihrer Meinung nach Commander Data Bewusstsein? CK: Natürlich nicht. Philosoph: Damit stellen Sie sich außerhalb der wissenschaftlichen Community. Diese geht davon aus, dass Lt. Com. Data Bewusstsein hat. CK: Hoffentlich nicht. Der Philosoph übersieht zwei wesentliche Eigenschaften von Fiktion: Sie ist fiktiv. Der Autor von Fiktion kann entscheiden, wie in seinem Œuvre Menschen mit Artefakten umgehen. Dies wiederum beeinflusst, wie der Leser das fiktionale Artefakt wahrnimmt. Lt. Com. Data besitzt einen „Deaktivierungsschalter“. Er wird nur in frühen Episoden von Star Trek verwendet. Gegenfrage: Besitzt Froschkönig ein Bewusstsein?

57 Vision: Friendly machines
Werbung 2050 Sony proudly announces: The Turing Talker™ Bezieht Informationen selbständig aus Internet, Radio und Fernsehen. Startet als Baby-Modul, lernt in 5 Wochen sprechen, besteht den Turing Test. Frei wählbare Voreinstellungen (Interessen, Wichtung von Gedächtnis- und Intelligenzressourcen) und individuelle Lernerfahrung machen Ihren Turing Talker™ zu einen Individuum. Schulen Sie Ihre Rhetorik mit dem Turing Talker™. Perfektes Einsatzgebiet für einen humanoiden sprechenden Roboter: The Walking Display Dummy™ Präsentiert die Kleidung den Kunden des Ladens, lobt die Qualität des Materials und die Verarbeitung. Berät die Kundin, was ihr steht. Hilft beim Anprobieren. Wendet sich ab, wenn man ihn auf die Nase haut.

58 Vision: Friends Zeitungsbericht 2450 Kammerjäger sind unterwegs.
Der vollautonome Roboter Dust Eater™ konzipiert für automatisches Staubwischen quietscht wenn man drauf tritt (tut es ihm weh?) läuft mit Solarenergie (die er sich selbst beschafft) kann sich vermehren ist den Laboren von Sony entlaufen und vermehrt sich unkontrolliert auf den Müllhalden von New York. Kammerjäger sind unterwegs. Sie treffen auf den Widerstand von artificial life Aktivisten. Kondo KMR M6

59 Fazit Beitrag eines Psychologen zur Debatte
Starke KI ist nicht unser Thema Indirekte KI ist nicht realistisch (solange der Überlebenskampf nicht realistisch simuliert wurde) Schwache KI ist erweiterbar: Nicht nur die Leistung erbringen, sondern dabei auch noch lächeln Zusammenarbeit mit der Robotik ist denkbar: Akzeptanz von humanoider Technik “Uncanny valley” (Masahiro Mori, 1970) vermessen, vermeiden Steigt die Nutzungsdauer freundlicher Maschinen? Stresslevel beim Umgang mit nüchternen versus freundlichen Maschinen Don’t give them the right to vote just because they smile

60 Hier irrt Goethe Heinrich Düntzer gab in seiner Goethe-Gesamtausgabe zu vielem genaue Kommentare. So schreibt Goethe, daß seine wirklich große Liebe Lili Schönemann gewesen sei. Das kommentierte Düntzer wie folgt: „Hier irrt Goethe. Das trifft vielmehr auf Friederike Brion zu!“

61 Der Ulmenstamm Wir sägten Holz, griffen dabei nach einem Ulmenbalken und schrien auf. Seit der Stamm im vorigen Jahr gefällt wurde, war er vom Traktor geschleppt und in Teile zersägt worden, man hatte ihn auf Schlepper und Lastwagen geworfen, zu Stapeln gerollt, auf die Erde geworfen – aber der Ulmenbalken hatte sich nicht ergeben! Er hatte einen frischen grünen Trieb hervorgebracht – eine ganze künftige Ulme oder einen dichten, rauschenden Zweig. Wir hatten den Stamm bereits auf den Bock gelegt, wie auf einen Richtblock; doch wir wagten nicht, mit der Säge in seinen Hals zu schneiden. Wie hätte man ihn zersägen können? Wie sehr er doch leben will - stärker als wir. Alexander Solschenizyn