Soll die KI-Entwicklung gestoppt werden?

Wenn uns die Geschichte eines gelehrt hat, dann, dass sich neue Innovationen nur schwer eindämmen lassen, wenn sie erst einmal in freier Wildbahn eingeführt sind. Man denke nur an die Einführung des Automobils oder des Internets, bei denen es sowohl Pessimisten als auch frühe Befürworter gab – und KI-gestützte Erlebnisse sind unverzichtbar. Die Entwicklung generativer KI-Systeme bietet historische Chancen, globale Probleme in Bereichen wie Bildung, Gesundheitswesen und Klimawandel anzugehen. Dennoch bestehen auch tiefgreifende Risiken, darunter Betrug, Propaganda und falsche Informationen.

In einem kürzlich veröffentlichten offenen Brief forderten Experten für künstliche Intelligenz (KI) und Technologie eine sofortige und mindestens halbjährige Pause für die Ausbildung von KI-Systemen, die leistungsfähiger als GPT-4 sind. Der erklärte Auslöser für diesen Brief: „Tiefgreifende Risiken für die Gesellschaft und die Menschheit“. Eine Eindämmung scheint jedoch schwierig, da ein Großteil der Forschungs- und Entwicklungsarbeit im Bereich der generativen KI bereits durch Open-Source-Modelle zugänglich gemacht wurde.

Das transformative Potenzial der KI

Die Künstliche Intelligenz (KI) birgt ein transformierendes Potenzial, mit positiven Auswirkungen in verschiedenen Bereichen wie beispielsweise Bildung, Gesundheitswesen, Klimawandel und Nachhaltigkeit, Lebensmittel- und Cybersicherheit. Es kann zudem helfen, Menschen bei rechtlichen Problemen zu unterstützen und den Rückstau im Rechtssystem zu verringern. Wenn das Internet einst ein erlösendes Versprechen der Inklusivität und Zugänglichkeit enthielt, kann es gut sein, dass die KI dazu beitragen wird, dieses Versprechen zu erfüllen.

In Deutschland gibt es im Bereich des Gesundheitswesens zunehmend Projekte, bei denen KI zur Verbesserung medizinischer Diagnosen, zur Behandlung oder zum Patientenmanagement eingesetzt wird. Sie bewirken damit nicht nur eine positive Veränderung in der Verwaltung von Krankenhäusern, sondern auch im Leben der Patienten. Im Bereich der Bildung können mit Hilfe von KI personalisierte Lernprogramme erarbeitet werden, um auf individuelle Bedürfnisse eingehen zu können, oder eine KI-basierte Plattform genutzt werden. Auch kann eine Künstliche Intelligenz helfen, Muster in hochkomplexen Daten zu finden, um Prognosen zu Naturkatastrophen und deren Auswirkungen abzuleiten. In der Lebensmittelindustrie könnte eine KI dabei unterstützen, die Qualität zu überwachen und potenzielle Risiken frühzeitig zu erkennen, um damit der Lebensmittelverschwendung entgegenzuwirken. Ein letztes Anwendungsfeld ist beispielsweise die Cybersicherheit. Hierbei kann eine KI-gestützte Erkennung und Analyse von Bedrohungen helfen, Sicherheitslücken in Netzwerken und Systemen frühzeitig zu erkennen

In all diesen Bereichen spielen KI-gestützte Erlebnisse eine entscheidende Rolle, da sie die Leistungsfähigkeit und Effizienz verbessern, genauere Diagnosen ermöglichen, personalisierte Lösungen bieten und frühzeitig auf Risiken oder Bedrohungen reagieren können. Sie tragen dazu bei, komplexe Herausforderungen anzugehen und positive Auswirkungen in verschiedenen Bereichen des gesellschaftlichen Lebens zu erzielen.

Einschätzung der Bedrohungen

Neben unzähligen Chancen gibt es auch mögliche Risiken generativer künstlicher Intelligenz (KI) und Auswirkungen auf die Sicherheit digitaler Interaktionen und Daten. Durch die Fähigkeit von KI-basierten Tools, synthetische Online-Identitäten zu erstellen, besteht ein erhöhtes Betrugspotenzial. Generative KI-Systeme können auch zur Erstellung von bösartigen Inhalten wie Phishing-Angriffen, Fake-News und Propaganda genutzt werden. Es gibt auch Gefahren im Zusammenhang mit der Verwendung von KI in Bereichen wie Recht, Wissenschaft und Medizin, da KI nicht immer weiß, was richtig und falsch ist. Es wird empfohlen, die Entwicklung von generativen KI-gestützten Werkzeugen durch Vorschriften, Leitplanken und Audits zu kontrollieren, um sicherzustellen, dass die Vorteile die Nachteile überwiegen.

Im Kontext der Ungewissheit darüber, was real und wahr ist, müssen digitale Interaktionen so abgesichert werden, dass jeder Schritt unanfechtbar und unbestreitbar ist. Kurz gesagt, es geht darum, das volle Potenzial von Mensch-zu-Mensch-Interaktionen zu sichern.

Empfohlene nächste Schritte

Als Teil eines Plans zur Bekämpfung von KI-gestütztem Betrug müssen sich Unternehmen auf die ID-Verifizierung und die kontinuierliche universelle Authentifizierung konzentrieren, um die Integrität ihrer Interaktionen, Transaktionen und Vereinbarungen zu gewährleisten. Hierzu sollten Unternehmen auf ID-Verifizierung, kontinuierliche Authentifizierung und Blockchain-Technologie setzen. Es ist wichtig, Maßnahmen zur Überwachung und Erkennung von Bedrohungen in digitalen Vereinbarungen zu implementieren und Beweise für Kommunikation sicher aufzubewahren, um Integrität und Authentizität zu gewährleisten. Unabhängig davon, ob die ursprüngliche Kommunikation der Wahrheit entsprach oder nicht, wird die Fähigkeit, auf nicht widerlegbare Nachweise dessen, was von wem, wann und wie getan wurde, zuzugreifen, das neue Öl in einer KI-gesteuerten Welt sein.

Marktkommentar von Ajay Keni, CTO bei OneSpan