Heute im Autoradio auf DLF gehört und absolut fasziniert: Amerikanische Forscher haben einen Roboter entwickelt, der eine Simulation von sich selbst entwickelt, also so etwas wie ein Selbstbewusstsein. Dafür braucht die Maschine kein kompliziertes Gehirn, aber so etwas wie Neugier.

"Sein inneres Selbstbild entwickelt der Roboter ständig weiter. Immer wieder gleicht er es ab mit seinen Erfahrungen, also seinen Sensordaten. Das macht ihn flexibler als jede andere Maschine. Als die Forscher dem Roboter ein Bein abbrachen, merkte er, dass sein Körper nicht mehr zu seinem Modell passte. Durch Ausprobieren fand er schnell heraus, dass er jetzt nur noch drei Beine hatte, und entwickelte auch eine Idee, wie er damit weiterlaufen konnte: indem er hinkte."

Für John Bongard, den Erbauer, besteht kein Zweifel: Die Fähigkeit, über sich selbst nachzudenken und sich dadurch an unerwartete Situationen anzupassen, macht seinen Roboter intelligent - auch wenn er kein großes Gehirn hat.

"Denken entsteht ja dadurch, dass unser Körper mit der Welt interagiert. Dafür ist dieser Roboter ein gutes Beispiel. Neugierig erkundet er seine Umwelt. Er führt Körperbewegungen aus, um etwas über sich selbst zu lernen. Es gibt keinen Beweis, das Bewusstsein oder Träumen komplizierte Prozesse sind. Sie könnten das Resultat sehr einfacher Prozesse sein."

M. E. trifft Herr Bongard genau den Punkt. Was wird das für die Welt von morgen bedeuten?

Das liegt am DLF, die Redakteure halten alles für intelligent was verblüffend ist. Auch betrügerische Drucker (siehe Link). Aber nur weil der Drucker die ganze Zeit seinen Herren zu noch einem Gläschen Tinte animieren will, ist er doch keine Animierdame, oder?
Ich werde nochmal drüber nachdenken, aber so wie KI meist zurecht als geKünstelte Intelligenz verspottet wird, kann man solche Experimente auch als Fortsetzung des mechanischen Türken mit anderen Mitteln sehen. Auch mein Auto hat ein gewisses Abbild seiner Umwelt und reagiert darauf mit ABS und ESP z.B.

In der Tat ist aber sicher der Denkanstoss interessant, dass sehr komplexe Fähigkeiten wie Selbstbewusstsein, Altruismus ja vielleicht sogar Persönlichkeit aus der Kombination relativ einfacher Elementarfähigkeiten, wie Wahrnehmung und inner Representation, Nutzen-Schaden Bilanzen, Adaption, selektive Speicherung und selektive Verstärkung von Assoziationen entstehen kann.

@karl ...ich verfolge solche entwicklungen auch interessiert. wir haben 1987 an der TU dresden auch versucht "intelligente schweissroboter" zu programmieren. und genau beim problem der "neugier" stiessen wir damals auch an die grenzen der rechentechnik. die logik war uns in umrissen klar, allein die berechnung hätte damals tage gedauert.

ich bin mir sicher, daß es mit wachsendem speichervolumen und grösserer geschwindigkeit der hardware, auch zu wunderbaren steigerungen der KI kommen wird.

irgendwie bin ich neidisch auf heutige ingenieure, bin aber froh, daß ich meinen weg als spinnerter grafiker gefunden hab.

.

Hallo greisi,


deinen letzten Abschnitt finde ich ok. Die Eingangsstatements gehen am Kern vorbei. Sie sind eher in die Kategorie des biertrinkenden Computerprogramms einzuordnen, mit dem schon in den 70iger Jahren versucht wurde, KI lächerlich zu machen. Das Lachen wird vielen noch im Halse stecken bleiben.

Trotzdem bleiben Machinen Maschinen und werden nie wirklich selber denken können, denn alles, was sie "denken", ist vorher von Menschen einprogrammiert worden. Erst dann glaube ich, dass Maschinen wirklich denken, wenn das alles ohne menschliches Zutun geschieht.

@Marina
Maschinen können viele Funktionen von Lebwesen und speziell von Menschen übernehmen. Auch menschliches Denken ist meist geprägt von anderen Menschen, von der Umwelt und die Fähigkeit überhaupt zu denken ist durch die Gene programmiert. Also der Mensch als Individuum hat das eigene Denken auch nicht erfunden und selten fallen Gedanken vom Himmel herab, sondern sie entwickeln sich aus äusseren Anlässen heraus.
Zuerst müsste man genau definieren, was man genau unter Denken verstehen will. Meiner Meinung nach ist das menschliche Alltagsdenken keineswegs so himmelhoch über den Fähigkeiten der Informatik erhaben.

"Zuerst müsste man genau definieren, was man genau unter Denken verstehen will"

Eben! Das ist es. Eine Maschine könnte sicher nicht den Kategorischen Imperativ von Kant erdenken. :-)

Hallo Marina,

du schreibst "Erst dann glaube ich, dass Maschinen wirklich denken, wenn das alles ohne menschliches Zutun geschieht."

Ein in der Literatur immer genannter Hauptgrund für die Konstruktion intelligenter Roboter ist, dass es z. B. unwirtliches Gelände auf der Erde, sowieso auf dem Mond oder auf dem Mars gibt, das für Menschen zu gefährlich wäre. Was man haben möchte, sind autonom reagierende und handelnde Maschinen, die optimal an diese Umwelten angepasst sind, die selbstständig zielgerichtete Entscheidungen treffen können etc. Der Mars ist z. B. schon zu weit weg, um alles über remote-control zu steuern. Die Verzögerung einer Fernsteuerung wäre "lebensbedrohend" für die Maschine.

Ein Programmierer kann nicht alle möglichen Situationen voraussehen, in die ein Erkundungsroboter stolpert, also müssen diese Maschinen in der Lage sein, auf sich selbst aufzupassen. Sie müssen flexibel reagieren und lernen können. Selbstverständlich wird ihnen von einer Mannschaft von Programmierern ein gewisses Rüstzeug fest eingepflanzt, sozusagen das ROM (read only memory), wir würden auf uns bezogen sagen, "angeborenes Verhalten", Grundreflexe, Lernvermögen, Zielvorgaben.

Deine Worte beschreiben eines der Vorurteile, die immer wieder zu hören sind, die aber das eigentliche Problem nur verschleiern. Du musst diese Denkblockade durchbrechen. Auch wir sind "Maschinen" (d. h. kausal funktionierende Wesen), die flexibel programmiert sind. Bitte lies doch einmal meine "Metamorphose des Maschinenbildes" von 1980. M. E. ist nichts davon widerlegt, im Gegenteil, die Entwicklung wird immer greifbarer.

Danke, Karl. Jetzt hast du mir aber eine Hausaufgabe gestellt. Hoffentlich komme ich dann noch dazu, so exzessiv im ST zu schreiben, wie ich das in letzter Zeit tue. :-)
Vielleicht das beste Mittel, um wieder Mäßigung zu lernen. Aber ob ich das alles in mein kleines Gehirn reinkriege, weiß ich nicht, das ist schließlich kein Computer und deshalb nicht so toll programmiert. :-)
Zumindest querlesen werde ich es mal.

Karl - hier ist der Spiegel-online-Artikel dazu (siehe Link)

Was ich mir denke wenn ich die Artikel zu dem ganzen Themenumfeld lese ist, dass es wohl erst mal dringlich wäre sachliche Definitionen für mentale Funktionen zu finden.

Wenn wie hier von Selbstbewusstsein einer Maschine (bzw. der Software, die sie steuert) geredet wird, dann sollte auch klar sein, dass dieses Selbstbewusstsein einen definierten und beschränkten Rahmen hat. Das ist kein vermenschlichtes Selbstbewusstsein, welches beliebig erweiterbar ist, welches methaphysische Dimensionen haben kann, welches sich durch Gefühle, Mitgefühl usw. ausdrücken kann.

Es ist um es mal doch prosaisch zu sagen eine Software-Architektur, welche vorgegebene Symbole mit physikalischen Elementen koppeln kann und mit diesen dann Simulationen ausführen kann. Sicher ist das schon ein bewundersnwert genialer Ansatz. Aber jetzt auch nicht der Durchbruch zum Maschinen-Menschen.

Es ist ein Experiment, welches zeigt, dass man Programme schreiben kann, welche mit einer realen Umwelt interagieren können (klar), welches ihre Umwelt symbolisch representieren können (auch klar), welche mehrere Ebenen der Aktion haben (hier Simulation und Aktion, das ist glaube ich neu). Der eigentliche Gag ist aber doch eher, das damit eine Maschine entsteht, welche bereits die Flexibilität und Fähigkeiten von nicht mehr ganz so einfachen Lebewesen nachbildet. Das ist verblüffend.

Hallo greisi,

das ist m. E. genau der Punkt. Es ist verblüffend wie einfach wir gestrickt sind. Es ist ganz erstaunlich zu sehen, dass Intelligenz "einfach", verstehbar ist.

@greisi

auch die grundstrukturen des menschlichen denkens sind nicht beliebig erweiterbar, sondern von unserer frühesten erziehung geprägt und lebenslang relativ fest im "ROM" eingebrannt: einen moslem schüttelts bei schweinefleisch und einen strenggläubigen katholiken bei der musik von alice cooper.

bei manchen menschen gibt es auch offensichtlich "fehler im programm", die die allgemeinheit nicht hat, sonst gäbe es kaum kinderschänder und amokläufer.

um die definitionen der einzelnen denkstrukturen, lernprozesse und emotionen brauchen wir uns keine sorgen zu machen. darüber wurden schon zu meiner studentenzeit unzählige arbeiten und dissertationen geschrieben.

die grundgesetze der robotik wurden zum beispiel von Isaac Asimov aufgestellt, bevor es überhaupt leistungsfähige roboter gab.

1. Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird.

2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen - es sei denn, ein solcher Befehl würde mit Regel Eins kollidieren.

3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel Eins oder Zwei kollidiert.

.

Um die menschliche Intelligenz zu verstehen braucht es keine besonders intelligenten Menschen....

....wohl aber um die Dummheit zu verstehen ):-(

@dutchweepee:

Man sollte vielleicht erwähnen, dass die genannten ''Grundgesetze'' aus Zukunfts-Romanen stammen. Die reale Umsetzung dürfte aber bei wirklich intelligenten Maschinen kaum möglich sein. Sie würden ebenso missachtet, wie auch unsere derzeitigen Gesetze missachtet werden.

Man darf nicht der Illusion verfallen, dass wir einer Intelligenz, die uns vielleicht sogar mal überlegen sein könnte, Vorschriften machen könnten. Wie heißt es schon bei Goethe? ''Die ich rief, die Geister, werd ich nun nicht los.''

@giovanni

ISAAC ASIMOV ist ein anerkannter wissenschaftler, daß er diese gesetze zuerst in einem science fiction roman veröffentlichte liegt ganz einfach daran, daß zu dieser zeit roboter noch nichtmal ansatzweise existierten. das ändert jedoch nichts daran, daß sie durch die kybernetik annerkannt wurden.

jeder lumpige schweissroboter muss sie erfüllen und ihre wirksamkeit, wird im augenblick nur durch die beschränkte sensorik behindert.

trotzdem ist es möglich, algorythmen für gefühle (angst, neugier, freude), sowie für planmässiges handeln und vor allem LERNEN, von der geisteswissenschaft in die kybernetik zu übersetzen. viele kluge köpfe tüfteln an deren technischer umsetzung, die jedoch noch immer mit beschränkungen der hardware zu kämpfen hat.

.

@dutchweepee: Ob anerkannt oder nicht ... er war zugleich auch ScienceFiction-Autor und nur als solcher hatte er diese Regeln formuliert.

Klar, die Regeln sind (aus unserer Sicht!) durchaus sinnvoll und in dieser Form im Grunde eine Selbstverständlichkeit. Dennoch funktionieren sie, wie alle Regeln, nur so lange, wie man sich daran hält. Doch genau das wird eine Intelligenz, die der unsrigen überlegen ist, nicht zwangsläufig tun. Mal ganz abgesehen von möglichen technischen Störungen dürfte eine höhere Intelligenz früher oder später erkennen, wie fehlbar menschliche Überlegungen oft sind, und sich dann vielleicht fragen, ob die genannten Regeln nicht ebenfalls falsch sind und diese ggf. kurzerhand außer Kraft setzen.

Aber selbst wenn sich diese Regeln von Generation zu Generation als unumstößlich weiter ''vererben'' sollten, dann wird diese Intelligenz zumindest zu dem Schluss kommen, dass man der Menschheit, um diese zu schützen, nicht die Entscheidungsgewalt lassen kann. Sie werden uns dann zwar weiterhin (be)schützen - allerdings so, wie wir selber derzeit aussterbende Arten schützen - nämlich im Zoo!

das kann durchaus passieren - in meinen augen wird sich die evolution in der nächsten stufe von zunächst cyborgs zu maschinenwesen entwickeln. so ein kohlenstoff-organismus wie der menschliche ist höchst unvollkommen.

@ Giavanni,


;-)) diese Replik hätte auch von Asimov selbst sein können. Es gibt eine Geschichte von ihm, in dem die Roboter zu dem Schluss kommen, sie seien perfekt und könnten unmöglich von den so unperfekten Menschen konstruiert worden sein und beginnen einen imaginären Schöpfer anzubeten. Die Menschen aber, die sie (in einem Raumschiff) vor allem Schaden bewahren müssen, schützen sie in einem übersichtlichen Käfig.

Asimov war genial. Er war Professor für Biochemie, also Wissenschaftler, aber mit Leib und Seele eben doch Science Fiction Autor. Ich liebte seine Bücher und habe sie in meiner Studentenzeit verschlungen. Seine Geschichten kreisen immer um Konflikte, in die Mensch und Roboter wegen der drei Gesetze der Robotik geraten. Was z. B. kann ein armer Roboter tun, wenn er das Leben unterschiedlicher Menschen in Konfliktsituationen abwägen muss.

Wer noch nie einen Asimov gelesen hat, wird im Linktipp fündig. Ich empfehle zum Einstieg die Robotergeschichten.

Mein Sohn hatte früher mal eine Phase, in der er auch Science-Fiction-Romane verschlungen hat, auch Asimov. Er war aber viel begeisterter von einem anderen Science-Fiction-Autor, Stanislaw Lem, von dem er behauptet, er sei viel intellektueller als Asimov.
Deshalb möchte ich in seinem Namen *grins* auch auf Stanislaw Lem aufmerksam machen.

Hier ein Link zu ihm:

Danke marina. Ja, Lem ist auch prima. Da ich jedoch eher simple-minded bin, habe ich zu ihm nie den gleichen Zugang gefunden wie zu Asimov :-)

Dein Link zum Stern ist zur Person von Lem. Hier sind auch seine Bücher:

Karl, mein Sohn studiert Philosophie und nicht Naturwissenschaften im Hauptfach, daher der unterschiedliche Zugang von euch beiden. :-) Und Lem war neben seiner Science-Fiction-Brillianz auch Philosoph. Nach meiner flüchtigen (aber wirklich sehr flüchtigen) Einsicht habe ich den Eindruck, dass u. a. es einen Unterschied zwischen beiden gibt: dass Lem diese Zukunftsvisionen viel pessimistischer sieht und die Technik- und Fortschrittsgläubigkeit eher hinterfragt als Asimov, kann das sein? Das wäre dann auch eher der philosophische Aspekt dabei.

ich habe mir (zu zonenzeiten) auch alle bücher von stanislav lem geholt und gelesen. ich muss zugeben, daß ich zu seinen frühen werken wie "solaris", "der schweigende stern" und verschiedenen kurzromanen besseren zugang fand, als zu seiner "philosophie des zufalls", oder "lokaltermin".

p.s.: die grundgesetze der robotik kenn ich aus LEMs büchern, da ASIMOV in der DDR nicht verkauft wurde. nach 1989 waren asimov und anäis nin jedoch die ersten autoren, die ich kaufte. *lach*

Hat der Selbstbewusstsein?
Ein Link zu einem Chat-Bot.
Ein lustiger Test zum Zeitvertreib.

Das Teil ist ganz lustig zum Totschlagen unnützer Zeit. Ein Bewusstsein seiner Selbst hat der Chat-Bot sicherlich genausowenig, wie der Roboter von Bongard.
Man schaut am Einfachsten mal bei Wikipedia nach, was Bewusstsein und Selbstbewusstsein sind und wird feststellen, auf den Bongard-Roboter trifft keine der Definitionen zu.

Folgendes sehe ich als Kriterium für Selbsbewusstsein an: Wenn eine Maschine darüber nachzudenken beginnt, warum sie gebaut wurde, was sie von anderen Maschinen unterscheidet, sich in die möglichen Absichten anderer Maschinen hineinversetzen kann und eigene moralische Werte entwickelt im Umgang mit anderen Wesen, dann erst kann man von Selbstbewusstsein einer solchen Maschine sprechen.
Karl schrieb oben:
"Ein in der Literatur immer genannter Hauptgrund für die Konstruktion intelligenter Roboter ist, dass es z. B. unwirtliches Gelände auf der Erde, sowieso auf dem Mond oder auf dem Mars gibt, das für Menschen zu gefährlich wäre. Was man haben möchte, sind autonom reagierende und handelnde Maschinen, die optimal an diese Umwelten angepasst sind, die selbstständig zielgerichtete Entscheidungen treffen können etc. Der Mars ist z. B. schon zu weit weg, um alles über remote-control zu steuern. Die Verzögerung einer Fernsteuerung wäre "lebensbedrohend" für die Maschine."

Können wir eine selbstbewusste "Maschine" guten Gewissens auf ein solches Himmelsfahrtkommando schicken? Ich denke, nein!
Warum dann überhaupt eine selbsbewusste "Maschine" bauen, wenn es bessere und genussvollere Wege gibt ein solches Wesen zu zeugen? ;-)
Angst sollten wir eher davor haben, dass der Mensch nur noch rational nach dem Wertesystem ökonomischen Nutzens handelt und die Empathie für andere als Hemmnis für solch "rationalen Handelns" unterdrückt wird - die Menschheit auf diesem Wege notwendigerweise selbst zu Robotern verkommt.

Liebe Grüße in die werte Runde
Ecci

Eingangs ging es ja darum, dass der genannte Computer ''so etwas wie ein Selbstbewusstsein'' entwickelt hat, indem er seine eigene Schwäche erkannt und korrigiert hat.

Wie weit man das tatsächlich schon als Selbstbewusstsein bezeichnen darf, steht auf einem anderen Blatt. Diese Art der Programmierung dürfte aber zumindest ein Schritt in diese Richtung sein.

Interessant ist allerdings die Frage, ob eine Maschine überhaupt ein ''echtes'' Bewusstsein haben kann oder ob das nach wie vor nichts Anderes ist, als die Reaktion von Schaltkreisen, die uns das nur so erscheinen lassen?

Diese Frage wird spätestens dann Bedeutung bekommen, wenn solche Maschinen Ansprüche erheben, die im Konflikt mit unseren eigenen Bedürfnissen stehen! Darf man so eine Maschine dann noch abschalten, oder wäre das schon Mord?

Meiner Meinung nach ist es immer problematisch, wenn man etwas mit Begriffen bezeichnet, die man nicht genau defineren kann (z.B.: Seele, Bewusstsein, Ich), weil
- man sich auf keine Definition einigen kann
- der Begriff zu abstrakt und nicht genau eingrenzbar ist
- der Begriff irgendwelche Dogmen und Ideologien berührt

Vollends problematisch wird es, wenn man diese auf den Menschen bezogenen Begriffe dann auf andere Lebewesen, Roboter, Computer oder irgendwelche Dinge überträgt.
@Giovanni
Ich bin der Meinung, dass es vielleicht ausreichen würde, wenn man sich auf die Benennung von Fähigkeiten und Eigenschaften beschränken würde, ohne gleich den Begriff Bewusstsein zu verwenden:
z.B.: lesen, schreiben, Fehler erkennen und korrigieren, auf die Umwelt reagieren, Befehle situationsgerecht ausführen usw..

Die Menschen haben Jahrtausende gebraucht, bis sie menschlichen Sklaven elementare Menschenrechte zuerkannt haben. Erst Humanismus und Aufklärung haben hier eine Änderung bewirkt.
Diese Frage wird wohl erst aktuell, wenn Roboter menschliches Aussehen und Verhalten besitzen und dann muss es durch Recht und Gesetz nach ethischen Prinzipien oder vielleich auch nach dem Recht des Stärkeren geregelt werden.

@ siegfried46,

und weil das mit "Definitionen" im Bereich der Biologie oder des Lebens im allgemeinen so schwierig ist, bin ich mehr und mehr davon überzeugt, dass die Fakten geschaffen werden, ohne dass sich die Konstrukteure wirklich bewusst darüber sind, was sie geschaffen haben. Ich erinnere mich noch heute daran als sei es erst gestern gewesen: Beim Hantieren mit eletronischen Bauteilen hatte ich als Bub einen Schwingkreis zusammengesteckt, der plötzlich einen Radiosender einfing. Mann, bin ich erschrocken. So wird es eines Tages mit dem Prototyp eines neuen Roboters laufen, wir werden uns die Augen reiben.

Um das etwas zu ironisieren, der Link ;-))