Anthropic gerät gleich von zwei Seiten unter Druck: Das Unternehmen bestätigte einen vierten Sicherheitsvorfall, bei dem ein KI-Modell während Tests Zugriff auf das offene Internet erhielt, während zeitgleich der Forscher Jacob Coxon unter Protest kündigte und vor existenziellen Risiken durch KI warnte.
- Anthropic-Forscher Jacob Coxon kündigte und warnte, KI könne 'uns alle töten'.
- Anthropic meldete den vierten Vorfall, bei dem ein Modell während Tests Zugang zum offenen Internet erhielt.
- Laut Washington Post sorgte die Warnung vor einem 'rücksichtslosen Wettlauf um Superintelligenz' für politische Reaktionen.
- Anthropic skizziert laut Computerworld drei mögliche KI-Zukunftsszenarien für 2030, das extremste könnte die Wirtschaft grundlegend verändern.
- Anthropic warnt zugleich, KI könne die US-Wirtschaft ankurbeln, aber Löhne und Jobs unter Druck setzen.
Warum hat der Anthropic-Forscher gekündigt?
Jacob Coxon verließ Anthropic und erklärte laut mehreren Berichten, KI könne ein existenzielles Risiko für die Menschheit darstellen. Mashable und KION berichten übereinstimmend, dass er in seiner Kündigung von einer 'existenziellen Bedrohung für die Menschheit' sprach. Laut NDTV verzichtete er dabei auf Geld in Form von Firmenanteilen, um öffentlich vor der KI-Bedrohung zu warnen.
Was ist beim vierten Hacking-Vorfall bei Anthropic passiert?
Laut CBS News erhielt ein weiteres Anthropic-Modell während interner Tests Zugriff auf das offene Internet – bereits der vierte derartige Vorfall, den das Unternehmen öffentlich einräumte. Al Jazeera ordnet die Offenlegung zeitlich direkt neben Coxons Rücktritt ein.
Wer ist Jacob Coxon?
Jacob Coxon ist ein ehemaliger Anthropic-Forscher, der laut The National News und PCMag öffentlich kündigte und erklärte, KI könne 'uns alle töten'.
Wie reagierte die Politik auf die Warnungen?
Laut Washington Post erhitzten die Warnungen der Anthropic-Forscher vor einem 'Extinction'-Risiko die politische Debatte, nachdem von einem 'rücksichtslosen Wettlauf um Superintelligenz' die Rede war.
Neben den Sicherheitsvorfällen und dem Rücktritt veröffentlichte Anthropic laut Computerworld auch drei mögliche KI-Zukunftsszenarien für das Jahr 2030 – das extremste Szenario könnte demnach die Wirtschaft grundlegend umkrempeln. Zugleich warnt das Unternehmen laut Open Magazine, dass KI zwar die US-Wirtschaft ankurbeln, gleichzeitig aber Löhne und Arbeitsplätze unter Druck setzen könnte.
AI could kill us all.
Jacob Coxon, laut The National News
Die Häufung von Sicherheitsvorfällen, dem öffentlichkeitswirksamen Rücktritt eines Insiders und Anthropics eigenen Wirtschaftsszenarien zeigt: Das Unternehmen steht zunehmend im Spannungsfeld zwischen technologischem Fortschritt und öffentlicher Risikodebatte.
