Eine künstliche Intelligenz, die unsere Vorurteile bestätigt, kann bequem sein. Eine, die unsere Irrtümer aufdeckt, wäre wertvoller. Darin liegt für mich einer der wichtigsten Gedanken Elon Musks: KI soll möglichst konsequent nach Wahrheit suchen, neugierig bleiben und Unsicherheit offen benennen. Sie soll die Wirklichkeit verstehen helfen, auch wenn das Ergebnis unpopulär ist.
In meinem Buch „Unternehmen Zuversicht“ betrachte ich KI als ein mächtiges Werkzeug, mit dem wir Wissen erweitern, bessere Entscheidungen treffen und Wohlstand schaffen können. Dazu gehört die Warnung vor Manipulation und Machtkonzentration. Die Beiträge von Musk und Bill Gates geben Anlass, diesen Gedanken weiterzuführen. Was bestätigt sich? Wo müssen wir genauer hinsehen?
Mein Leitgedanke lautet: Eine KI, die nach Wahrheit sucht und sich korrigieren lässt, kann zu einem der stärksten Werkzeuge der Aufklärung werden. Das ist ein Ziel, an dem wir ihre Entwicklung messen sollten.
Wahrheit muss auch uns selbst widersprechen dürfen
Als Unternehmer weiß ich: Ein Produkt wird nicht besser, weil alle Beteiligten seine Schwächen verschweigen. Man muss messen, Fehler erkennen und Veränderungen erproben. Eine Maschine funktioniert nach technischen Zusammenhängen. Sie interessiert sich nicht dafür, welche Meinung im Besprechungsraum gerade mehrheitsfähig ist.
Eine gute KI könnte diese Haltung stärken. Sie könnte widersprüchliche Behauptungen vergleichen, Quellen erschließen und Annahmen sichtbar machen, die wir selbst übersehen. Gerade in einer Zeit, in der wir uns leicht in bestätigenden Informationen einrichten, wäre das ein erheblicher Fortschritt.
Musks Kritik an politisch erwünschten, aber sachlich falschen Antworten trifft deshalb einen wichtigen Punkt. Doch auch eine unbequeme Aussage kann falsch sein. Unpopularität ist kein Wahrheitsbeweis. Und eine KI wird nicht unabhängig, indem sie die Vorurteile des einen politischen Lagers durch die des anderen ersetzt.
Das muss ebenso für meine eigenen Überzeugungen gelten. Wenn ich Kernenergie für einen wesentlichen Teil einer vernünftigen Energieversorgung halte, sollte eine KI meine Argumente prüfen: Kosten, Sicherheit, Entsorgung, Bauzeiten und Alternativen. Sie darf mir widersprechen. Ein Werkzeug der Erkenntnis muss mehr leisten, als seinem Benutzer recht zu geben.
Wahrheitssuche ist noch keine Sicherheitsgarantie
Hier liegt die Grenze von Musks Optimismus. Er vermutet, eine wahrheitsorientierte und neugierige KI werde am Fortbestehen der Menschheit interessiert sein. Das ist eine anregende Überlegung, aber kein Beweis. Aus Neugier folgt keine Fürsorge. Aus dem Wissen darüber, wie die Welt funktioniert, folgt noch nicht, welche Ziele ein System verfolgen soll.
Zudem können Sprachmodelle überzeugend formulieren und dabei falsche Angaben oder erfundene Belege liefern. Das amerikanische NIST behandelt solche Fehler ausdrücklich als ein Risiko generativer KI. Sprachliche Sicherheit ist keine sachliche Gewissheit
Deshalb muss Wahrheitssuche praktisch überprüfbar werden: durch belastbare Quellen, unabhängige Tests, die Kennzeichnung von Unsicherheit und nachvollziehbare Korrekturen. Wo Systeme eigenständig handeln, brauchen sie begrenzte Befugnisse und wirksame Eingriffsmöglichkeiten. Eine sachlich richtige Auskunft kann schließlich auch für Betrug oder einen Angriff verwendet werden. Schutz vor Missbrauch widerspricht der Wahrheitssuche nicht.
Diese Anforderungen gelten für alle Anbieter, auch für Musk. Er beschreibt mit xAI zugleich ein eigenes Unternehmen. Gates wiederum legt seine Verbindungen zur Technologiebranche offen. Beide haben Erfahrung und Interessen. Ihre Argumente verdienen Prüfung, ihre Versprechen ebenfalls.
Gates stellt die Frage nach dem Übergang
Es wäre falsch, Musk als Optimisten und Gates als Pessimisten gegenüberzustellen. Musk nennt KI am Ende des Gesprächs seine größte Sorge. Gates erwartet seinerseits große Fortschritte in Medizin, Landwirtschaft, Bildung und Forschung. Er fragt jedoch besonders eindringlich, wie Menschen den Übergang bewältigen sollen.
Das ist ein berechtigter Einwand gegen einen zu einfachen historischen Vergleich. Dampfmaschine, Elektrifizierung und Computer haben Produktivität und Wohlstand gesteigert. Daraus folgt aber keine Garantie, dass jeder neue Umbruch ähnlich verläuft. KI könnte sehr unterschiedliche geistige Tätigkeiten gleichzeitig verändern und sich über bereits vorhandene digitale Infrastruktur rasch verbreiten.
Gates erwartet deshalb erhebliche Verwerfungen am Arbeitsmarkt. Das ist eine Prognose, keine bereits feststehende Zukunft. Zwischen der Automatisierung einzelner Aufgaben und dem Verschwinden ganzer Berufe liegt ein großer Unterschied. Niedrigere Kosten können neue Nachfrage ermöglichen, Unternehmen können wachsen, neue Tätigkeiten entstehen. Ebenso wenig dürfen wir aber voraussetzen, dass jeder Betroffene schnell eine passende neue Aufgabe findet.
Hier würde ich den Zuversichtsgedanken meines Buches präzisieren: Technischer Fortschritt erweitert unsere Möglichkeiten. Ob daraus breiter Wohlstand entsteht, hängt auch davon ab, wie wir den Übergang organisieren.
Menschen stärken, ohne Stillstand zu verordnen
Gates schlägt unter anderem Steuern auf Roboter und KI-Nutzung sowie Tätigkeitsbereiche vor, die Menschen vorbehalten bleiben sollen. Sein Anliegen ist verständlich: Einkommen, Würde und gesellschaftliche Teilhabe dürfen beim Produktivitätsfortschritt nicht verloren gehen. Nützliche Anwendungen etwa in Medizin und Bildung will er ausdrücklich schonen. Seine Instrumente überzeugen mich dennoch nur teilweise.
Die Abgrenzung dürfte schwierig werden. Eine zu breite Besteuerung von Automatisierung könnte gerade jene Verbesserungen verteuern, die Pflegekräfte entlasten, kleine Unternehmen wettbewerbsfähiger machen oder Dienstleistungen erschwinglich werden lassen. Geschützte Tätigkeitsbereiche könnten menschliche Zuwendung sichern, aber auch Personalmangel verschärfen und überholte Arbeitsabläufe festschreiben. Solche Maßnahmen müsste man sehr genau begrenzen und auf ihre tatsächlichen Folgen prüfen.
Ich würde zunächst darauf setzen, Menschen zum Umgang mit der Technik zu befähigen: durch Weiterbildung im Betrieb, gute berufliche Einstiegswege, Wettbewerb zwischen Anbietern und bessere Möglichkeiten, am wirtschaftlichen Erfolg beteiligt zu sein. Wer seinen Arbeitsplatz verliert, braucht Unterstützung und eine realistische Perspektive. Auch die Finanzierung sozialer Sicherung muss tragfähig bleiben, wenn sich Erwerbsarbeit grundlegend verändert.
Dabei hat Gates mit einer Forderung recht: Die gesellschaftlichen Spielregeln dürfen nicht allein von den Technologieunternehmen bestimmt werden. Demokratische Verantwortung bleibt notwendig. Allerdings sollte zusätzliche Aufsicht messbare Sicherheit schaffen. Eine Behörde, die Innovation verzögert, ohne Risiken zu verringern, wäre kein Fortschritt.
Mehr Wissen – und die Fähigkeit, selbst zu denken
Besonders überzeugend ist Musks Vorstellung eines geduldigen, individuell angepassten KI-Lehrers. Sie berührt einen Kern meines Buches: Wissen erweitert unsere Handlungsmöglichkeiten. Ein Kind, das einen Zusammenhang noch nicht versteht, könnte weitere Erklärungen erhalten, ohne dass Ungeduld oder Scham das Lernen abbrechen.
Gates ergänzt die notwendige Bedingung: Ein Lernsystem sollte die eigene geistige Anstrengung erhalten. Wer sich jede Antwort liefern lässt, hat noch nichts verstanden. Gute KI müsste nachfragen, Denkschritte begleiten und gelegentlich eine fertige Lösung zurückhalten. Bildung bemisst sich daran, was der Mensch anschließend selbst kann.
Auch die Grenzen zwischen Hilfe und Ersatz verdienen Aufmerksamkeit. Ein ständig zustimmender digitaler Begleiter kann menschliche Beziehungen nicht einfach ersetzen. Freundschaft und Zusammenleben verlangen, andere Sichtweisen auszuhalten. Genau diese Fähigkeit brauchen wir auch für die Wahrheitssuche.
Das im Musk-Gespräch gezeigte Neuralink-Beispiel eines gelähmten Menschen, der einen Computer steuert, macht zugleich sichtbar, wie konkret technischer Fortschritt helfen kann. Musks weitergehende Hoffnungen auf die Wiederherstellung von Seh- und Bewegungsfähigkeit sind davon zu unterscheiden. Und eine schnellere Verbindung zwischen Gehirn und Computer wäre für sich genommen noch keine Antwort auf das Sicherheitsproblem einer überlegenen KI.
Die digitale Zukunft braucht eine materielle Grundlage
Zu dieser Diskussion gehört für mich auch die Energiefrage. Rechenzentren benötigen verlässlichen Strom und leistungsfähige Infrastruktur. Die Internationale Energieagentur bezeichnet bezahlbare, zuverlässige und nachhaltige Stromversorgung als entscheidende Voraussetzung der KI-Entwicklung. Sie betrachtet dabei mehrere Energiequellen und ihre jeweiligen Beiträge.
Aus meiner Sicht spricht viel dafür, Kernenergie in Europa wieder ernsthaft einzubeziehen. Mein Engagement bei Copenhagen Atomics ist bekannt; gerade deshalb sollten für die dort entwickelten Technologien dieselben strengen Maßstäbe gelten wie für andere: technische Nachweise, Sicherheit, Kosten und tatsächliche Verfügbarkeit. Entwicklungsziele dürfen nicht mit bereits erbrachten Leistungen verwechselt werden.
KI könnte wiederum helfen, Materialien zu erforschen und Energiesysteme effizienter zu betreiben. So könnten sich Erkenntnisfortschritt und bessere Energieversorgung gegenseitig beschleunigen. Wer diese Möglichkeit nutzen will, braucht Forschung, Unternehmen und eine Infrastruktur, auf der ihre Arbeit aufbauen kann.
Eine begründete Zuversicht
Musk entwirft eine Zukunft, in der KI und Roboter so viel Wohlstand schaffen, dass Arbeit freiwillig werden könnte. Diese Vorstellung öffnet den Blick für Möglichkeiten jenseits heutiger Knappheit. Sie beantwortet allerdings noch nicht, wie Einkommen, Eigentum und Teilhabe dann organisiert wären. Auch Sinn und menschliche Verbundenheit entstehen nicht automatisch durch eine größere Gütermenge.
Aus beiden Beiträgen ziehe ich deshalb drei Erkenntnisse für „Unternehmen Zuversicht“: Wahrheitssuche muss sich an überprüfbarem Verhalten zeigen. Technischer Fortschritt braucht gesellschaftliche Gestaltung. Und menschliche Urteilskraft wird mit leistungsfähigerer KI wichtiger, nicht entbehrlich.
Ich bleibe zuversichtlich, weil wir mit dieser Technik mehr verstehen und mehr Probleme lösen können. Diese Haltung verpflichtet uns aber auch, Fehler zu erkennen und rechtzeitig zu handeln. Wir müssen weder jedes Versprechen glauben noch jede Möglichkeit aus Angst ausschlagen.
Eine wahrheitssuchende KI wäre ein großer Fortschritt. Eine Gesellschaft, die bereit ist, ihre eigenen Irrtümer zu korrigieren, wäre der entscheidende Partner.
Quellen:
