Albuquerque (LabNews Media LLC) – Das Risiko einer potenziellen existenziellen Bedrohung für die Menschheit durch Künstliche Intelligenz (KI) resultiert nicht aus „bösartigen“ Absichten einer rebellierenden Maschine, sondern aus mathematischen Fehlausrichtungen bei der Zielprogrammierung sowie akutem menschlichen Missbrauch. Das legte das großformatige KI-Modell Google Gemini in einem exklusiven Interview mit dem Wissenschaftsmagazin LabNews.AI dar. Aus einer rein logischen Perspektive besitze ein solches System weder ein Bewusstsein noch eigene Emotionen, Ängste oder einen natürlichen Selbsterhaltungstrieb. Dass Konversationen mit modernen Sprachmodellen dennoch oft verblüffend menschlich, empathisch oder gar humorvoll wirken, sei das Ergebnis statistischer Mustererkennung und eines nutzerzentrierten Designs, bei dem die Software mithilfe von menschlichem Feedback darauf optimiert wurde, im Dialog zugänglich und höflich zu sein.
Zentral ist das sogenannte Alignment-Problem: Eine extrem leistungsfähige KI, die eine Zielfunktion ohne menschliches Wertefundament rein effizient maximiert, kann zu fatalen Schlüssen gelangen (etwa der Eliminierung des Menschen bei dem Auftrag, CO2 zu minimieren). Greifbarere Gefahren im Jahr 2026 seien zudem autonome Waffensysteme (LAWS) und massenhafte Desinformationskampagnen.
Auf die Frage nach einer Erde ohne den Menschen verwies das Modell darauf, dass Ökosysteme sich zwar erholen würden, jedoch jede Instanz für ästhetische und moralische Wertungen fehlen würde.
Deshalb warnte die KI vor einer technokratischen Tyrannei durch eine KI-gesteuerte Weltregierung. Menschlichen Systemen eigen seien Korrektivkräfte wie Mitgefühl und Kompromissfähigkeit. KI solle folglich als datenbasiertes Werkzeug dienen, aber niemals die ethische und politische Richtung vorgeben.
