(New York) Die fortschrittlichsten Unternehmen auf dem Gebiet der künstlichen Intelligenz (KI) müssen akzeptieren, dass ihre Mitarbeiter öffentlich einen kritischen Blick auf ihre Aktivitäten und die mit KI verbundenen Risiken werfen, forderten mehrere OpenAI-Mitarbeiter unter Wahrung der Anonymität sowie ehemalige Mitglieder des Startups.
„Soweit diese Unternehmen nicht der Aufsicht der Behörden unterliegen, gehören aktuelle oder ehemalige Mitarbeiter zu den wenigen Personen, die sie zur Rechenschaft ziehen können“, erklären die 13 Unterzeichner des am Dienstag veröffentlichten offenen Briefes.
Darunter sind vier OpenAI-Mitarbeiter und sieben Alumni.
Diese Unterzeichner bedauern, dass „umfassende Vertraulichkeitsklauseln sie daran hindern, ihre Bedenken öffentlich zu äußern“.
„Einige von uns befürchten Vergeltungsmaßnahmen (sollten wir offen kommunizieren), angesichts der Präzedenzfälle, die es in der Branche gibt“, heißt es in dem Brief.
Zu den genannten Risiken zählen „die Verstärkung von Ungleichheiten, Manipulation, Desinformation bis hin zum Kontrollverlust autonomer KI-Systeme, der zum Aussterben der Menschheit führen könnte“.
Wenn sie glauben, dass diese Risiken „mit Hilfe der wissenschaftlichen Gemeinschaft, der Behörden und der Öffentlichkeit“ begrenzt werden können, „haben KI-Unternehmen einen finanziellen Anreiz, sich einer wirksamen Aufsicht zu entziehen“.
Sie fördern außerdem die Einrichtung anonymer Meldekanäle intern, um vor bestimmten Risiken zu warnen.
Auf Anfrage von AFP sagte Open AI, es sei „stolz“, über die seiner Meinung nach „leistungsstärksten und sichersten“ KI-Systeme zu verfügen.
„Wir sind der Meinung, dass angesichts des Umfangs dieser Technologie eine gründliche Debatte von entscheidender Bedeutung ist, und wir werden uns weiterhin mit Regierungen, der Zivilgesellschaft und anderen Einrichtungen auf der ganzen Welt austauschen“, fügte ein Sprecher von „OpenAI“ hinzu.
