KI-Guru warnt vor ChatGPT und Co und kündigt bei Google

Menschliche Intelligenz wird zum Teil in den Schatten gestellt

Hinton sagte der Zeitung, der Wettbewerb bringe die Technologieunternehmen dazu, "in einem gefährlichen Tempo" immer neue KI zu entwickeln. "Es ist schwierig, sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen", sagte er. Google und das Unternehmen OpenAI - das Startup, das den bekannten Chatbot ChatGPT entwickelt hat - begannen im vergangenen Jahr damit, lernende Systeme zu entwickeln, die dafür eine sehr viel größere Datenmenge als zuvor nutzen. Hinton sagte der "New York Times", diese Systeme würden aufgrund der schieren Datenmenge die menschliche Intelligenz in mancher Hinsicht in den Schatten stellen.

KI kann "Sklavenarbeit" überflüssig machen

Mit Blick auf die Arbeitsplätze sagte Hinton etwa, Künstliche Intelligenz könne die "Sklavenarbeit" überflüssig machen. "Aber sie könnte noch viel mehr wegnehmen."

KI-Pionier kündigt seinen Job bei Google

Der Zeitung zufolge kündigte der Entwickler seinen Job bei Google im vergangenen Monat. Sein Chef im Unternehmen, Jeff Dean, erklärte in einer Mitteilung an US-Medien, er danke Hinton für seine Arbeit. Dean betonte, Google habe als eines der ersten Unternehmen Leitsätze für die KI-Anwendung veröffentlicht. Google fühle sich auch weiterhin "zu einem verantwortungsvollen Umgang mit KI verpflichtet". Google lerne beim Verständnis der Risiken beständig dazu - und führe gleichzeitig weiterhin "kühn" Neuerungen ein.

"Große Risiken für die Gesellschaft"

Erst Ende März hatten der Technologie-Milliardär Elon Musk und zahlreiche Experten eine Pause bei der Entwicklung von besonders fortgeschrittener Künstlicher Intelligenz gefordert. "KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen", warnten auch sie. "Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind."

Offener Brief

In einem offenen Brief zu einem Stopp der KI-Entwicklung verwiesen die Unterzeichner auf einen Satz von OpenAI-Gründer Sam Altman, demzufolge irgendwann eine "unabhängige" Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. "Wir stimmen zu", schreiben die Verfasser des Briefes. "Der Zeitpunkt ist jetzt."

Wir haben ChatGPT gefragt: Wie gefährlich ist Künstliche Intelligenz für den Menschen und die Gesellschaft? Das ist die Antwort der KI:

Künstliche Intelligenz (KI) hat das Potenzial, sowohl positiven als auch negativen Einfluss auf die Menschheit und die Gesellschaft auszuüben. Die Gefahr oder das Risiko von KI hängt von verschiedenen Faktoren ab, einschließlich der Art der Anwendung, der Kontrolle und Regulierung sowie der ethischen Überlegungen.

Einige potenzielle Gefahren von KI sind:

Um die Risiken von KI zu minimieren, ist es wichtig, ethische Rahmenbedingungen und Regulierungen zu entwickeln, die sicherstellen, dass KI zum Wohle der Gesellschaft eingesetzt wird. Dazu gehören die Schaffung von Richtlinien für den verantwortungsbewussten Einsatz von KI, die Förderung von Transparenz und Verständlichkeit, die Gewährleistung von Datenschutz und Sicherheit sowie die Anpassung des Bildungssystems, um Menschen für den Wandel zu rüsten.