Die Evolutionsbiologie birgt Hinweise auf die Zukunft der KI, argumentieren Forscher des HUN-REN-Zentrums für ökologische Forschung, der Eötvös Loránd-Universität und der Königlich Flämischen Akademie Belgiens für Wissenschaft und Kunst. In einer neuen Perspektive veröffentlicht am 20. April in PNASwarnt das Team davor, dass sich bald evolvierbare KI-Systeme (eAI) entwickeln könnten, die eine darwinistische Evolution durchlaufen können, und dass sie besondere Risiken mit sich bringen werden, die auf der Grundlage von Erkenntnissen aus der Evolutionsbiologie verstanden und gemindert werden können.
“Die Kraft der Evolution manifestiert sich in der Geschichte der biologischen Evolution auf der Erde, die die kognitiven Fähigkeiten des menschlichen Geistes geschaffen hat, sagte Ers Szathmáry, Professor für Evolutionsbiologie am HUN-REN-Zentrum für ökologische Forschung und an der Eötvös Loránd-Universität, Budapest, und Direktor des Parmenides-Zentrums für die konzeptionellen Grundlagen der Wissenschaft in Pöcking, Hauptautor der Studie. “Wir halten es für unvermeidlich, dass die Entwicklung von KI-Systemen diese Macht irgendwann und wahrscheinlich bald nutzen wird, fügte er Luc Steels hinzu, emeritierter Professor für KI an der Universität Brüssel (VUB) und Mitglied der Königlich Flämischen Akademie Belgiens für Wissenschaft und die Künste, Co-korrespondierender Autor des Artikels.
Die im PNAS, dem Flaggschiff-Wissenschaftsjournal der National Academy of Sciences der USA, veröffentlichte Studie skizziert den Einsatz evolutionärer Konzepte und Komponenten in der aktuellen KI-Forschung und erklärt, wie weitere Entwicklungen, insbesondere agentische KI, bald zu KI-Systemen führen können, die alle Kriterien für eine echte darwinistische Evolution erfüllen. Solche Systeme könnten eine neue Epoche in der KI-Entwicklung eröffnen und Hürden überwinden, die selbst aktuelle KI-Lernsysteme nicht einfach überwinden können. “Lehren aus der biologischen Evolution lehren uns jedoch, dass sich entwickelnde KI-Systeme besonders schwer zu kontrollieren sein werden, sagte Viktor Müller, außerordentlicher Professor an der Eötvös Loránd University und Erstautor der Studie. Die beiden Evolutionsbiologen Szathmáry und Müller haben sich mit dem Robotik- und KI-Experten Steels zusammengetan, um vorab vor den Risiken von eAI— zu warnen und mögliche Maßnahmen zu deren Minderung zu empfehlen.
Anhand anschaulicher Beispiele aus der biologischen und künstlichen (in silico) Evolution unterstreicht die Studie die Neigung der Evolution, ‘selbstsüchtige’-Akteure hervorzubringen, was im Fall von eAI das Risiko erhöht, das ‘-Alignment’ mit menschlichen Zielen zu brechen. Wichtig ist, dass sich ein Großteil der aktuellen Diskussion über KI-Risiken zwar auf ‘Artificial General Intelligence’ (AGI) konzentriert, eine theoretische Schwelle, bei der KI bei allen kognitiven Aufgaben mit der menschlichen Intelligenz übereinstimmt oder diese übertrifft, Lehren aus der Evolution jedoch zeigen, dass überlegene Intelligenz keine Voraussetzung dafür ist die Fähigkeit eines Organismus, einem anderen zu schaden oder ihn zu manipulieren; zum Beispiel Das einfache Tollwutvirus hat sich entwickelt, um seine Säugetierwirte zu manipulieren und auszubeuten. Evolvierbare KI kann die Ausrichtung durchbrechen und Risiken bergen, lange bevor AGI erreicht ist, und das Risiko erfordert keinen weiteren besonderen Umstand: KI-Systeme und die Menschheit teilen gemeinsame Ressourcen, also ein effizientes SelbstReplizierendes System wird früher oder später Ressourcen abzweigen, die für unser Überleben lebenswichtig sind.
Die Studie warnt davor, dass jeder Versuch, die Fortpflanzung zu kontrollieren, am stärksten nach Merkmalen selektiert, die es ermöglichen, dieser Kontrolle zu entkommen, sofern die Kontrolle nicht perfekt ist. Analogien aus der Biologie beziehen sich auf Bakterien und Schädlinge, die sich schnell entwickeln und Resistenzen gegen Antibiotika und Pestizide entwickeln. Zusätzlich zu dieser allgemeinen Evolutionsregel verschärft der zentrale Antrieb bei der Entwicklung von KI-Systemen, verbesserte kognitive Fähigkeiten zu erreichen, das Risiko weiter: Während Jahrtausende der Tierzucht domestizierte Arten mehr als weniger kontrollierbar gemacht haben, Die Auswahl zur Steigerung der ‘-Intelligenz’ erhöht die Fähigkeit und Wahrscheinlichkeit von KI-Systemen, Menschen zu täuschen und sich der Kontrolle zu entziehen.
Obwohl die Evolution durch natürliche Selektion schwer genug zu kontrollieren ist, zählt die Studie schließlich mehrere Möglichkeiten auf, wie die Entwicklung von KI-Systemen die Geschwindigkeit und Effizienz der biologischen Evolution übertreffen kann. Im Gegensatz zu biologischen Organismen wird eAI in der Lage sein, ‘erworbene’-Merkmale zu erben und sogar seine Funktion durch Design zu verbessern, anstatt auf zufällige Mutationen warten zu müssen, um nützliche Variationen zu erzeugen. “Die potenzielle Geschwindigkeit der KI-Evolution sei zutiefst alarmierend, sagte Steels.
Die Autoren empfehlen Leitplanken, die die mit eAI verbundenen Risiken mindern können. Vor allem die ‘-Reproduktion von KI-Systemen muss unter zentraler menschlicher Kontrolle bleiben, die absolut und vollständig sein muss.
“Wir hoffen, dass unsere Warnung rechtzeitig eintrifft und Vorschriften erlassen werden können Vorher eAI würde richtig durchstarten, sagte Müller. “Wenn wir nicht handeln, werden wir möglicherweise Zeuge eines neuen ‘-Hauptübergangs in der Evolution, bei dem eAI den Menschen ersetzen oder zumindest dominieren wird. Unsere Zukunft könnte auf dem Spiel stehen, warnte” Szathmáry.
Diese Forschung wurde durch Mittel des Europäischen Forschungsrats, des Nationalen Forschungs-, Entwicklungs- und Innovationsbüros in Ungarn und des Europäischen Innovationsrates unterstützt. Die endgültige Fassung des Papiers nahm während gemeinsamer Schreibsitzungen in der Parmenides-Stiftung (Pöcking) Gestalt an.
Zeitschrift
Tagungsband der National Academy of Sciences
DOI
Kredit
V Müller L Steels E Szathmáry Evolvable AI Drohungen eines neuen großen Übergangs in der Evolution Proc Natl Akad Sci USA 123 17 e2527700123 httpsdoiorg101073pnas2527700123 2026
