Erst der Computer, dann der Mensch?
Stopp für KI-Superintelligenz: Wissenschaftler, Politiker und Unternehmer gegen KI
„Bis diese Technologie zuverlässig sicher und kontrollierbar ist“ soll keine KI-Superintelligenz hergestellt werden. Das fordern mehr als 700 Wissenschaftler, Politiker und Prominente – auch Apple-Mitgründer Steve Wozniak. OpenAI-Chef Sam Altman, der ChatGPT herausbrachte, will diese binnen den nächsten 5 Jahren schaffen.
Es gibt auch eine KI, die als digitaler Zwilling eines Menschen für diesen Fragen beantwortet. Die Trefferquote – also ob der Mensch die Frage gleich beantwortet hätte – liegt bei 85 Prozent (Symbolbild).
Foto: PhonlamaiPhoto/iStock
Mehr als 700 Wissenschaftler, Politiker und Prominente wie Prinz Harry oder Apple-Mitgründer Steve Wozniak haben einen Stopp der Entwicklung von Künstlicher Intelligenz (KI) gefordert, die menschliche Fähigkeiten übertreffen könnte.
Diese sogenannte Superintelligenz müsse verboten werden, „bis diese Technologie zuverlässig sicher und kontrollierbar ist“, fordern die Unterstützer der Initiative in einer am Mittwoch veröffentlichten Erklärung des Future of Life Institutes. Die Nichtregierungsorganisation kämpft gegen die Gefahren von KI.
Viele Prominente haben unterschrieben
Zu den Unterzeichnern gehören der KI-Pionier und Physik-Nobelpreisträger Geoffrey Hinton, der bekannte KI-Wissenschaftler Yoshua Bengio von der Universität Montreal sowie der britische Unternehmer Richard Branson und der ehemalige Berater von US-Präsident Donald Trump, Steve Bannon.
Auch Prominente wie der britische Prinz Harry und seine Frau Meghan sowie der KI-Experte des Vatikan, Paolo Benanti, haben unterschrieben.
Zwar wünschten sich viele Menschen leistungsstarke Programme, die die Wissenschaft oder Medizin voranbrächten oder für mehr wirtschaftliche Produktivität sorgten, erklärte der Mitbegründer des Future of Life Institutes, Anthony Aguirre.
Aber das Wettrennen von KI-Unternehmen auf dem Weg zu KI-Technologien, die den Menschen übertreffen und ersetzen sollen, sei „sehr weit von dem entfernt, was die Öffentlichkeit will, Wissenschaftler für sicher oder religiöse Anführer für richtig halten“, fügte er hinzu.
Es gab schon einen offenen Brief dazu
Während der UN-Generaldebatte im September hatten Forscher und Beschäftigte aus dem KI-Sektor ebenfalls einen offenen Brief veröffentlicht, in dem sie Regierungen dazu aufforderten, bis Ende 2026 ein internationales Rahmenwerk für „rote Linien“ in Bezug auf KI zu beschließen.
Tech-Unternehmen wie Meta oder der ChatGPT-Entwickler OpenAI streben die Entwicklung von Superintelligenz in den kommenden Jahren an. OpenAI-Chef Sam Altman, dessen Unternehmen ChatGPT herausbrachte, hatte im September gesagt, dass Superintelligenz binnen der nächsten fünf Jahre geschaffen werden könnte. (afp/red)
Kommentare
Noch keine Kommentare – schreiben Sie den ersten Kommentar zu diesem Artikel.
0
Kommentare
Noch keine Kommentare – schreiben Sie den ersten Kommentar zu diesem Artikel.