Neue Jugendschutz-Einstellungen für ChatGPT nach Suizid

Außerdem könnten Erziehungsberechtigte bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen. Zudem verfüge ChatGPT nun über ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert. Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhielten die Erwachsenen jedoch nicht. In Kalifornien haben Eltern OpenAI verklagt. ChatGPT soll ihrem 16-jährigen Sohn Anleitungen geliefert haben, sich selbst zu schaden.

Im vergangenen Monat hatte die Facebook-Mutter Meta ihre Jugendschutz-Regeln für den Umgang mit Künstlicher Intelligenz (KI) ebenfalls verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch "romantische oder sinnliche Gespräche" mit Minderjährigen.

(S E R V I C E - Sie sind in einer verzweifelten Lebenssituation und brauchen Hilfe? Sprechen Sie mit anderen Menschen darüber. Hilfsangebote für Personen mit Suizidgedanken und deren Angehörige bietet das Suizidpräventionsportal des Gesundheitsministeriums. Unter finden sich Kontaktdaten von Hilfseinrichtungen in Österreich.)

(APA/Reuters)