Die ehemalige Google-Forscherin Meredith Whittaker warnt vor den Risiken der Künstlichen Intelligenz (KI). Dabei sieht sie nicht die Gefahr eines eigenständigen Bewusstseins, sondern vielmehr den Umgang der Konzerne mit der Technologie als Problem. Whittaker hatte bereits vor Jahren auf die Risiken von KI hingewiesen und sieht sich durch die jüngsten Entwicklungen bestätigt.
Angst vor KI-Übernahme
Die Vorstellung, dass KI irgendwann ihre Schöpfer übertrumpft und die Kontrolle übernimmt, ist eine Urangst des Menschen. Doch Whittaker sieht deutlich konkretere Risiken der Technologie und der Art, wie Unternehmen damit umgehen. Sie vergleicht die Angst vor einer Übernahme durch KI mit Geistergeschichten, die viel emotionales Gewicht haben und Panik auslösen können.
Wunschdenken und Intuition
Whittaker glaubt, dass Menschen intuitiv auf die Technologie reagieren, weil sie sich als begierig zuhörender Gesprächspartner präsentiert. Daraus entstehe eine Art Wunschdenken, etwas Menschliches in ihr zu sehen.
Streit mit Google
Whittaker hatte Google im Streit verlassen, als der Konzern unter dem Projektnamen „Maven“ Zielsysteme für das US-Militär auf KI-Basis entwickeln wollte. Whittaker und einige Kollegen wehrten sich lautstark gegen die Pläne. Obwohl Google sich letztlich aus dem Projekt zurückzog, wurde Whittaker nach eigenen Angaben gedrängt, das Unternehmen zu verlassen.
Reue-Tour von KI-Urgestein
Whittaker sieht die Aussagen des KI-Urgesteins Geoffrey Hinton, der das Unternehmen verlassen hat und die Gefahren seiner Lebensarbeit bereut, kritisch. Hinton hatte sich für gesetzliche Grenzen ausgesprochen und gefragt, ob das, was in den Systemen passiert, nicht eigentlich viel besser sei als das, was in unserem Hirn geschieht. Whittaker zeigt sich enttäuscht von Hinton’s plötzlicher Reue-Tour und betont, dass sie ihn trotz gemeinsamer Zeit bei Google nicht besonders gut gekannt habe.