Kann sich KI der menschlichen Kontrolle entziehen?

Max Tegmark, Professor für künstliche Intelligenz (KI) und physikalische Forschung am MIT, sagt, er habe nach Berechnungen herausgefunden, dass eine hochentwickelte KI mit einer Wahrscheinlichkeit von 90 % eine existenzielle Bedrohung darstellen könnte. In einem gemeinsam mit drei Studenten veröffentlichten Artikel empfehlen die Autoren, dass KI-Unternehmen die Compton-Effekt-Gleichung verwenden sollten, um Sicherheitsbedenken auszuräumen. Diese Gleichung wurde vom amerikanischen Physiker Arthur Compton entwickelt und basierte auf Robert Oppenheimers Berechnungen für den Trinity-Test, der der Atombombe im Jahr 1945 vorausging.

Laut Tegmark ergibt die Berechnung die Wahrscheinlichkeit, dass eine hochentwickelte KI, deren Fähigkeiten der menschlichen Intelligenz insgesamt überlegen sind, der menschlichen Kontrolle entkommen könnte. Der Experte, der Präsident des Future of Life Institute ist, einer gemeinnützigen Organisation, die sich für eine Weiterentwicklung der Technologie zum Wohle der Menschheit einsetzt, warnt, dass Organisationen, die KI einsetzen, dieselben Berechnungen durchführen sollten, bevor sie sich für superintelligente Systeme entscheiden.

Die Ergebnisse wurden vom Guardian veröffentlicht und der Experte reagierte über die sozialen Medien. „Wenn Forscher aus Unternehmen und Ländern diese Konstante neu berechnen und sich einig sind, dass sie zu hoch ist, wird es einen politischen Willen geben, Sicherheitsstandards durchzusetzen“, sagte er.

Im November war Tegmark beim Web Summit in Lissabon und sprach mit Observador über die Sicherheitsstandards, die er für notwendig hält. Jede Branche hat Sicherheitsstandards, oder? Wenn Sie ein Restaurant eröffnen wollen, bin ich mir sicher, dass die Stadt Lissabon einige Sicherheitsstandards hat. Ratten in der Küche und ähnliches sind verboten. Das Wichtigste sind Sicherheitsstandards. Und um diese herauszufinden, braucht man KI-Experten, die miteinander sprechen, und sie werden bestimmt eine Lösung finden.