Künstliche Intelligenz (KI-Systeme) und ihre Folgen Nobelpreis für Physik geht an KI-Forscher John Hopfield und Geoffrey Hinton
Physik-Nobelpreis:Das ist eine sehr gute Wahl. Besonders Geoffrey Hinton gönne ich das aus vollem Herzen. Er ist inzwischen übrigens einer der bedeutendsten Mahner vor dem Kontrollverlust der Menschen. Ich habe hier schon im englischsprachigen Bereich Videos von ihm veröffentlicht. Er warnt davor, die KI zu unterschätzen.
Pioniere der KI gewinnen Nobelpreis
Für „Maschinen, die lernen“ erhalten der Physiker John Hopfield und der Informatiker Goeffrey Hinton den Physik-Nobelpreis.
Auf Youtube könnt ihr deutsche Untertitel einstellen.
Nun, für Hinton wird es nicht bedeutsam sein, dass ich voll seiner Meinung bin. Ich habe nie selbst über KI gearbeitet, aber als Neurobiologe habe ich immer mit einem Auge rüber zur Entwicklung der KI geschielt und vieles in meine Vorlesungen und Prognosen eingebaut. Für mich ist es wichtig, dass seine Aussagen zur Befähigung der neuronalen Netze meine Gedanken dazu bestätigen. Sie verstehen und werden Bewusstsein entwickeln. Wie werden wir damit umgehen? Was wird dies für die Menschen bedeuten?
Hinton sagt: Die Menschen verstehen nicht, was da auf sie zukommt.
Karl
Hopfield ist inzwischen 91 Jahre alt und anders als Hinton nicht mehr (für meine Ohren) gut zu verstehen. Ich habe deshalb wohl auch keine guten Youtube-Videos über ihn gefunden. Was man aber dem (noch) kurzen Wikipedia-Artikel über ihn entnehmen kann, das ist seine ungewöhnliche Vielseitigkeit und große Durchdringung der Naturwissenschaften. Als Mikrobiologe, Neurobiologe und Physiker war er alles andere als ein Spezialist und er macht somit deutlich, dass auch heutzutage eine breite Bildung und breites Wissen noch hilfreich bei der Entwicklung fundamentaler Ideen sein kann.
Karl
Danke, lieber Karl,
für diese schönen kurzen Zusammenfassungen der Arbeit der beiden. KI ist das beherrschende Thema, auch die heute verliehenen Chemie-Nobelpreise gehen an Wissenschaftler, die für ihre Arbeit auf dem Gebiet er Proteine KI nutzten. Leider kann ich das nicht so schön zusammenfassen wie Du, dazu fehlt mir das chemisch-biologische Wissen.
Ich habe gestern in Nano ein Zitat eines der beiden Physiknobelpreisträgers gehört, dessen größte Sorge es ist, dass die KI irgendwann mal "mehr weiß als der Mensch", und dass wir gar nicht so weit davon entfernt seien. Das wurde ja hier im Forum schon mehrfach infrage gestellt; ich befürchte aber, dass die Gefahr real ist, realer als die meisten das meinen.
LG
DW
Danke @der-waldler,
das wenigstens Du das Thema aufgreifst. Früher wäre die Diskussion hier im ST dazu lebhafter gewesen. Ja, Prof. Hinton ist inzwischen ein Mahner geworden. Sowie Oppenheimer nach der Entwicklung der Atombombe gegen die Entwicklung der Wasserstoffbombe Front bezog, macht sich Hinton inzwischen stark für eine Regulierung der Weiterentwicklung der KI. Er fürchtet, dass KI bald den menschen überflügeln wird und wir die Kontrolle verlieren könnten.
Für Hinton ist übrigens die Rolle der KI im Gesundheitssektor die Anwendung, in die er große Hoffnungen setzt. Ich habe über dieses Thema ja einen Vortrag im Dezember angesetzt:Auch Nobelpreisträger Hinton zeigt sich besorgt über die rasante Entwicklung. Auf die Frage, ob er seine Entwicklung bereut, antwortet er, dass er zwar nichts rückgängig machen wolle. Gleichzeitig äußert er sich ehrfürchtig über möglichen Konsequenzen: "Es könnte am Ende nicht gut ausgehen."
https://www.tagesschau.de/wissen/forschung/nobelpreis-physik-maschinelles-lernen-100.html
🔴 Freitag, den 6.12.2024 um 19 Uhr 30:
Prof. Dr. Karl-Friedrich Fischbach „Die Revolution im Gesundheitswesen durch Künstliche Intelligenz“
Karl
Interview mit Hinton nach dem "Telefonanruf":
Karl
P.S.: wichtig sind folgende Aussagen von Hinton aus obigem Link:
1. Höchst wahrscheinlich wird KI in den nächsten 5-20 Jahren oder etwas später intelligenter sein als wir. Eine kleine Wahrscheinlichkeit besteht, dass es noch früher passiert.
2. Wir sehen draußen in der Welt selten, dass etwas weniger Intelligentes über etwas Intelligenteres Macht ausübt. Wir sollten uns also fragen, was passiert, wenn wir dümmer sind als KI.
gerade habe ich mir das Video angesehen.
Falls ich es richtig verstanden habe, bringt sich das System durch Billionen Durchführungsproben (Versuch und Irrtum) selbstständiges Lernen bei. Ein gutes Beispiel dafür sind die Mini-Roboter-Fußballspieler im KI-Labor.
Der Vorteil zum menschlichen Gehirn ist dabei die Abspeicherung und sofortige Daten-Abrufung von einem unglaublichen Wissensspeicher, den wir (in nur einem Menschenleben) ja gar nicht erwerben könnten.
Nobelpreisträger Hinton vermutet und befürchtet, dass diese künstlichen neuralen Netzwerke mal autonom agieren und sich somit der menschlichen Kontrolle entziehen könnten.
Das erinnert mich an Goethes Ballade „Der Zauberlehrling“. Nur in diesem Fall wäre es für die Menschheit katastrophal.
Rosi65
Da gruselt es einem ja fast...
LG
DW
Lieber @Karl,
der Einsatz von KI in der Psychologie wirft auch ethische, soziale und philosophische Fragen auf.
Ist der Mensch tatsächlich eine Maschine, die man mit Hilfe von Algorithmen und Daten modellieren und vorhersagen kann?
Wie verändert die KI zum Beispiel die Beziehung zwischen Ärzten und Patientin? Wie
können wir sicherstellen, dass die KI-Systeme ethisch verantwortungsvoll und transparent eingesetzt werden?
Fragen die mich sehr beschäftigen.
LG Doris
Danke @doep56, @der-waldler, @Rosi65 für eure Antworten.
Goethes "Zauberlehrling" mit "Die Geister, die ich rief, werde ich nicht mehr los" ist ein gutes Bild, das oft von Mahnern in Bezug auf KI benutzt wird.
Zu den informierten Mahnern gehören Geoffrey Hinton, Mustafa Suleyman, Yuval Noah Harari und hier in Deutschland der Autor Karl Olsberg. Sucht dazu auf Youtube oder mit Google nach deren Äußerungen. Ich selbst lese derzeit "Nexus" von Yuval Noah Harari.
Trotzdem hat KI speziell für uns, die heutigen Seniorinnen und Senioren, m. E. vor allem positive Aspekte und diese liegen im Gesundheitssystem. Deshalb werde ich mich im Dezember darauf konzentrieren, nicht weil ich nicht auch die grundsätzlichen Gefahren des Kontrollverlustes sehe, aber es ist einfach nicht möglich, alles in einem einzigen Vortrag abzuhandeln - und tatsächlich sind die Gefahren und Chancen für die jüngeren Generationen ganz anders verteilt als für uns "die Alten".
Karl
Auch der Nobelpreis für Chemie dieses Jahr hat Bezug zu KI:
Das KI-Modell AlphaFold von Hassabis und Jumper ist in der Lage aus der Aminosäuresequenz eines Proteins die 3-dimensionale wirksame Struktur des Proteins vorherzusagen. Als ich noch an der UNI aktiv war, wurden die 3-dimensionalen Strukturen von Proteinen durch die Kristallographie von Kristallen dieser Proteine vorhergesagt. Der Prozess der Kristallisation der Proteine war sehr mühsam und zeitaufwändig und die Auswertung ebenso. Ein Doktorand arbeitete 3-5 Jahre an solch einer Arbeit.
Der Chemie-Nobelpreis 2024 geht an David Baker von der University of Washington zur einen Hälfte und zur anderen an Demis Hassabis und John M. Jumper vom KI-Unternehmen Google Deepmind. Baker sei erfolgreich gewesen damit, völlig neue Arten von Proteinen herzustellen. Hassabis und Jumper hätten ein KI-Modell entwickelt, um komplexe Strukturen von Proteinen vorherzusagen, heißt es in einer Mitteilung aus Stockholm.
Proteine sind die Arbeiter in einer Zelle. Sie unterscheiden sich je nach der Sequenz ihrer Aminosäuren. Die lineare Abfolge der Aminosäuren, die die Bausteine der Proteine darstellen, wird durch die genetische Information, die in der DNA gespeichert ist, festgelegt. Die dreidimensionale Faltstruktur des Proteins legt seine Funktion fest. Einige zerlegen z. B. die aufgenommenen Nährstoffe einer Zelle und generieren so Energie, andere helfen die Bausteine der Zellen herzustellen.
Auch Antikörper sind Proteine. Dass nun mit Hilfe von KI passende Proteine gentechnisch designt werden können, bedeutet einen riesigen Fortschritt für die Biotechnik und für die Bekämpfung von Krankheiten.
Karl