Hannes Badertscher, führende Köpfe der Technologiebranche warnen aktuell vor einer zu schnellen KI-Entwicklung. Wie gefährlich ist KI heute?

Die Gefahr, die ich sehe, ist nicht, dass sich KI verselbstständigt und die Horrorszenarien eintreten, die momentan präsentiert werden.

Welche Gefahr sehen Sie dann?

KI ist ein Werkzeug und funktioniert für viele Anwendungsfälle gut. In schlechten oder böswilligen Händen hat sie aber bereits heute ein grosses Schadenspotenzial. Mit KI lassen sich beispielsweise riesige Phishing-Mail-Kampagnen personalisieren und vollautomatisiert durchführen. Das Gleiche gilt für Deepfakes: Gefälschte Bilder, Videos oder Audiodateien können mit wenig Aufwand gezielt gegen einzelne Personen eingesetzt werden. Das Problem ist also weniger die KI an sich, sondern der Mensch, der ein stärkeres Werkzeug erhält, um es für potenziell schädliche Zwecke einzusetzen.

Also haben Sie keine Angst vor einer KI, die irgendwann selbst die Kontrolle übernimmt?

Wir müssen diese Risiken erforschen und ernst nehmen. Ich glaube aber, dass wir heute weit davon entfernt sind, dass KI selbstständig wird und die Menschheit existenziell bedroht. Es gab beispielsweise Fälle, bei denen KI für IT-Sicherheitszwecke trainiert wurde und Systeme gehackt hat, die ausserhalb der dafür vorgesehenen Umgebung lagen. Aber die KI hatte den Auftrag, Systeme zu hacken. Das zeigt für mich vor allem: Je mächtiger diese Werkzeuge werden, desto mehr müssen wir in Sicherheit investieren.

Braucht es deshalb die geforderte Temporeduktion in der Entwicklung?

Eine staatlich verordnete Temporeduktion halte ich in einer globalisierten Welt für schwierig bis unmöglich. Man wäre darauf angewiesen, dass KI-Entwickler auf der ganzen Welt freiwillig mitmachen. Daran glaube ich nicht. Essenziell sind aber Risikoanalysen, Risikomanagement und Sicherheitssysteme.

Braucht es dafür auch strengere Gesetze?

Nicht zwingend. Wenn eine Maschinenbaufirma in der Ostschweiz eine neuartige Maschine baut, erwarten wir auch, dass sie vor der Markteinführung eine Sicherheitsanalyse durchführt. Bei KI sollte das nicht anders sein. Dann muss eine Firma mit der Veröffentlichung eines Modells eben warten, bis es ausreichend getestet ist. Eine Maschinenbaufirma kann nach einem Unfall schliesslich auch nicht sagen: «Ups, wir hatten zu wenig Zeit für die Sicherheit.» Am Schluss geht es hier auch um Produktehaftung. Man muss das sorgfältig abklären und die Risiken im Griff haben, wenn man ein Produkt auf den Markt bringt, um sicherstellen zu können, dass es keinen Schaden verursacht, den man nicht kontrollieren kann.

Die Entwicklung läuft trotzdem schneller, als Gesellschaft und Politik reagieren können. Wie kann gegen bereits bestehende Gefahren wie etwa Deepfakes oder Hackerangriffen vorgegangen werden?

Wir müssen Methoden finden, um damit umzugehen, und dabei die einzelnen Punkte anschauen. Deepfake ist ein solches Thema. Technische Leitplanken zu setzen, ist schwierig, weil es mit heutigen Tools mittlerweile fast nicht mehr möglich ist zu erkennen, ob etwas ein Deepfake ist. Vielleicht braucht es künftig Wasserzeichen. Woran ich aber stark glaube: Wir müssen wieder besser lernen, Quellen und ihre Vertrauenswürdigkeit zu beurteilen. Für Menschen in den Medien ist das tägliches Brot. In der breiten Bevölkerung werden diese Fähigkeiten weniger bewusst eingesetzt.

Das heisst, der Grundstein muss bereits in der Schule gelegt werden. Müsste Medienpädagogik zum Hauptfach werden?

Absolut. Das ganze Bildungssystem muss sich mit KI und ihren Auswirkungen beschäftigen. Dazu gehören Medienpädagogik, Datenschutz und ein technisches Grundverständnis: Was ist KI überhaupt? Wie funktioniert sie grundsätzlich? Wie kann ich sie sinnvoll einsetzen? Wir arbeiten beispielsweise mit Smartfeld in St. Gallen zusammen und bieten gemeinsam mit der Pädagogischen Hochschule St. Gallen auch einen Kurs zu Medienpädagogik im Zeitalter von KI an. Langfristig muss dieses Wissen direkt in den Unterricht eingebettet werden.

Was ist mit den Menschen, die nicht mehr zur Schule gehen?

Das ist eine grosse Herausforderung. Ein Grossteil der Bevölkerung ist berufstätig oder pensioniert. Dort gibt es kein Bildungssystem, in das wir KI-Wissen einfach integrieren können. Deshalb führen wir unter anderem Seminare für die breite Bevölkerung durch. Man muss dafür nicht die Mathematik hinter KI verstehen. Wichtig ist zu erkennen: KI ist keine Zauberei. Sie ist eine neue Technologie und ein Werkzeug, dessen Grundzüge man verstehen kann.

Ist wirtschaftliche Entwicklung ohne KI gar nicht mehr denkbar?

Davon bin ich überzeugt. Die Technologie ist da und wird neue Gebiete erschliessen. Es wird aber auch Korrekturschritte geben. Im Moment experimentieren Unternehmen sehr viel. An manchen Stellen werden wir feststellen: Hier ist KI nicht zielführend oder ein Mensch ist für diese Aufgabe sinnvoller. Aber verschwinden wird die Technologie nicht mehr.

Gibt es Beispiele, in denen man bereits merkt, dass KI technisch zwar funktioniert, der Mensch aber trotzdem besser ist?

Ja. Wir haben in einem Projekt KI im Gesundheitswesen eingesetzt. Technologisch funktionierte der Kontakt zwischen KI und Patientinnen und Patienten. Wir stellten aber fest, dass das trotzdem nicht zielführend war. Eine Ärztin oder ein Arzt braucht nicht nur Fakten. Sie müssen den Menschen kennen, Vertrauen schaffen und eine Beziehung aufbauen und pflegen. Das ist etwas von Natur aus Menschliches. Überall, wo menschliche Beziehungen zentral sind, kann man den Menschen nicht durch KI ersetzen.

Wo sehen Sie für Unternehmen die grössten Chancen mit KI?

Vor allem dort, wo gut ausgebildete Fachleute viel Zeit mit Administration verbringen. Bleiben wir beim Gesundheitswesen: Fachpersonen arbeiten mit Patientinnen und Patienten, müssen aber gleichzeitig viel dokumentieren. Diese Dokumentation ist wichtig, bindet aber Zeit. KI kann hierbei oder bei der Informationssuche unterstützen. Dasselbe gilt für technische Berufe. Ein Landmaschinenmechaniker arbeitet gerne und gut an Maschinen. Danach muss er ins Büro und einen Rapport schreiben. Das Wissen ist in seinem Kopf – es auf Papier zu bringen, macht ihn vermutlich nicht glücklich. Genau dort kann KI entlasten.

Welche Berufe geraten dagegen unter Druck?

Viele Berufsbilder werden sich verändern. Ich komme selbst aus der Softwarebranche, die häufig als eine der ersten genannt wird, die durch KI beeinflusst wird. Ein Grossteil der Firmen, auch in der Schweiz, entwickelt Software mit Hilfe von KI. Das ändert das Berufsbild des Softwareentwicklers massiv. Der Hauptteil der Arbeit verschiebt sich ins Konzeptionelle: Wie bauen wir ein System auf? Wie arbeiten Schnittstellen zusammen? Was braucht der Kunde überhaupt?

Braucht es dadurch nicht automatisch weniger Softwareentwickler?

Eben nicht. Es bietet sich vielmehr die Chance, individuellere Software zu entwickeln. Wo heute ein Standardprogramm eingesetzt wird, weil eine spezifische Lösung zu teuer wäre, entstehen künftig neue Möglichkeiten.

Was Sie sagen, ist: Es braucht nicht weniger Mitarbeitende, aber solche mit anderen Fähigkeiten. Was passiert mit jenen, die nicht einfach vom Code-Schreiber auf den Konzeptentwickler umstellen können?

Viele Berufsprofile werden sich ändern. Das ist aber ein sehr langfristiger Prozess. KI wird nicht plötzlich zum wirtschaftlichen Niedergang führen. Im Gegenteil: Jede technologische Entwicklung und jede Effizienzsteigerung in der Geschichte hat am Schluss zu Wirtschaftswachstum geführt, weil der Konsum und die Bedürfnisse angestiegen sind. Nehmen wir die Industrialisierung. Durch Automatisierung fielen damals ebenfalls viele Berufe weg. Durch die Verlagerung entstanden aber auch neue Tätigkeiten. Das grösste Risiko sehe ich darin, dass jemand entlassen wird, weil er KI nicht nutzt, und danach keine neue Stelle mehr findet. Deshalb ist Weiterbildung zentral. Unternehmen müssen ihre Mitarbeitenden weiterentwickeln. Darüber hinaus trägt jede Person Verantwortung dafür, am Ball zu bleiben. Gerade bei Menschen, die nicht mit diesen Technologien aufgewachsen sind, ist es wichtig, in das nötige Wissen zu investieren.

Demnach halten Sie eine globale Arbeitslosenkrise wegen KI für unwahrscheinlich?

Ich glaube nicht, dass wir einen Moment erleben werden, in dem ganze Berufsgattungen auf einen Schlag wegrationalisiert werden. Der Übergang dürfte fliessend sein. Manche Unternehmen sind früh dran, andere hinken Jahre hinterher. Kurzfristig kann es in einzelnen Branchen einen Taucher geben. Mittelfristig rechne ich aber nicht mit einem grossen Stellenabbau.

Warum sind Sie so zuversichtlich?

Wir haben zwei gegenläufige Entwicklungen. Die Babyboomer gehen langsam in Pension, gleichzeitig kommen zu wenige Arbeitskräfte nach. In vielen Branchen herrscht Fachkräftemangel. Auf der anderen Seite macht uns KI effizienter. Vielleicht heben sich diese Entwicklungen teilweise auf: Weniger Menschen können jene Arbeit erledigen, für die es bisher mehr Personal gebraucht hat. Ich forsche allerdings nicht in diesem Bereich und kann das nicht mit Studien belegen oder als Prognose formulieren.

Aber für Ihren Fachbereich können Sie das: Wo steht KI in fünf Jahren?

Die Modelle werden leistungsfähiger und komplexere Aufgaben übernehmen. Die wichtigste Entwicklung der nächsten Jahre wird aber die Integration in unsere normalen Arbeitsprozesse.

Was heisst das?

Heute ist KI häufig noch ein separates Fenster. Ich kopiere eine E-Mail in ChatGPT, lasse sie bearbeiten und kopiere sie zurück. Das wird verschwinden. KI wird direkt in die Programme integriert sein, mit denen wir arbeiten. Ein ERP-System braucht keine KI, mit der ich über Gott und die Welt reden kann. Es braucht eine KI, die auf die relevanten ERP-Daten zugreifen und mich bei meinen konkreten Aufgaben unterstützen kann. Dasselbe gilt für E-Mail, Recherche und andere Geschäftsprozesse.

Verlieren wir mit der Auslagerung all dieser Aufgaben an KI nicht zwangsläufig die Fähigkeit selbst zu denken?

Das ist ein wichtiges Thema. Wir wissen, dass Fähigkeiten verloren gehen können, wenn Technologie sie dauerhaft übernimmt. Verbindungen in unserem Hirn entstehen dadurch, dass wir uns hinsetzen, denken, etwas ausprobieren, Fehler machen und nochmals beginnen. Rechnen lernt man nicht mit KI und auch nicht mit dem Taschenrechner. Man lernt es, indem man rechnet und übt. Das ist anstrengend und manchmal nicht lustig. Aber diesen Prozess braucht es.

Was bedeutet das für die Nutzer?

In der Primarschule geben wir einem Kind auch nicht sofort den Taschenrechner. Zuerst lernt es selbst zu rechnen. Wenn es das kann, bekommt es ein Werkzeug, das ihm die Arbeit abnimmt. Das ist für mich eine gute Analogie zu KI. Wir müssen Menschen zuerst beibringen, selbst zu denken, Probleme zu strukturieren, Informationen zu sammeln und zu bewerten. Sie müssen selbst einen Text schreiben und Sprache verstehen können. Erst dann können sie KI verantwortungsbewusst einsetzen. KI ist keine Abkürzung.

Dieser Beitrag ist im Rahmen der Wirtschaftsbeilage 2026 erschienen.