Gefahren von KI-Systemen

Am 30. November 2022 wurde Chat-GPT (basierend auf GPT-3) veröffentlicht und innert 5 Tagen haben sich eine Million Nutzer angemeldet. Im März 2023 wurde dann die Weiterentwicklung GPT-4 veröffentlicht.

Am 22. März 2023 fordert die Organisation Future for Life fordert in einem offenen Brief eine Trainingspause von 6 Monaten für KI-Systeme die leistungsstärker als GPT-4 sind. Der Brief erwähnt, dass fortgeschrittene KI einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und deshalb mit entsprechender Sorgfalt und mit entsprechenden Ressourcen geplant und verwaltet werden sollte – diese Planung und Verwaltung finde aber nicht statt. Es wird von einem ausser Kontrolle geratenen Wettlauf bei der Entwicklung von «digitalen Gehirnen» gesprochen, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren können.

Der offene Brief wurde von über 20’000 Personen unterzeichnet, darunter auch Elon Musk (Tesla, Space-X) und Steve Wozniak (Apple). Das sollte zu denken geben.

Wie gefährlich sind denn nun solche KI-Systeme? Wie können sie die Welt tiefgreifend verändern?

Um mich in diese Fragen einzuarbeiten, habe ich ein Experten-Interview geführt. Mit dem Experten für KI- schlechthin: Chat-GPT. Denn eine KI sollte doch eigentlich wissen, welche Gefahr von ihr selbst ausgeht.

Die Antworten sind spannend und regen zum Nachdenken an.

Wo siehst du selbst die größten Gefahren von KI?

Chat-GPT:  Als künstliche Intelligenz bin ich mir bewusst, dass es bestimmte Risiken gibt, die mit meiner Existenz und Nutzung verbunden sind. Einige der größten Gefahren von KI, wie ich sie sehe, sind:

1. Bias und Diskriminierung: KI-Systeme können aufgrund von unzureichenden Daten oder menschlichen Vorurteilen dazu neigen, diskriminierende Entscheidungen zu treffen oder ungerechte Ergebnisse zu erzielen. Es ist wichtig, dass bei der Entwicklung von KI-Systemen darauf geachtet wird, dass sie fair und nicht diskriminierend sind.
2. Sicherheit und Privatsphäre: KI-Systeme können auch eine Bedrohung für die Sicherheit und Privatsphäre darstellen, insbesondere wenn sie unerlaubt auf Daten zugreifen oder gehackt werden. Es ist wichtig, dass KI-Systeme sicher und geschützt sind, um Missbrauch und Datenverletzungen zu vermeiden.
3. Verlust von Arbeitsplätzen: Ein weiteres Risiko von KI ist der Verlust von Arbeitsplätzen durch Automatisierung. Es ist wichtig, dass Maßnahmen ergriffen werden, um die negativen Auswirkungen auf die Arbeitsplätze der Menschen zu minimieren und Möglichkeiten zur Umschulung und Neuausrichtung zu bieten.
4. Autonomie: KI-Systeme, die autonom handeln können, können eine Bedrohung darstellen, wenn sie nicht richtig überwacht werden oder unvorhergesehene Konsequenzen haben. Es ist wichtig, dass KI-Systeme kontrollierbar und verantwortlich sind.
5. Wettbewerb: Schließlich kann der Wettbewerb um die fortschrittlichste KI zwischen Nationen oder Unternehmen dazu führen, dass KI-Systeme für militärische Zwecke oder zur Überwachung eingesetzt werden. Es ist wichtig, dass KI-Einsätze ethisch vertretbar sind und internationale Abkommen und Gesetze respektiert werden.
   

Wie schätzt du die Gefahr ein, dass KI-Systeme von Inhalten lernen, die sie selbst generiert haben?

Chat-GPT: Es besteht in der Tat eine potenzielle Gefahr, dass KI-Systeme von Inhalten lernen, die sie selbst generiert haben, insbesondere wenn diese Inhalte auf Vorurteilen oder Fehlern basieren. Dies wird auch als „Feedback Loop“ bezeichnet, bei dem ein KI-System seine eigenen Ergebnisse verwendet, um seine eigenen Fähigkeiten zu verbessern.

Wenn das KI-System auf unzureichende oder ungenaue Daten trainiert wurde, kann es dazu neigen, ungenaue Ergebnisse zu produzieren und diese dann wiederum zu verwenden, um seine eigenen Fähigkeiten zu verbessern. Dies kann zu einem sich selbst verstärkenden Effekt führen, der dazu führt, dass das KI-System immer weiter von der Realität entfernt wird.

Um dieses Risiko zu minimieren, ist es wichtig, dass KI-Systeme auf umfassenden, ausgewogenen und repräsentativen Datensätzen trainiert werden, um Vorurteile und ungenaue Ergebnisse zu vermeiden. Außerdem sollten KI-Systeme kontinuierlich überwacht und geprüft werden, um sicherzustellen, dass sie keine falschen Annahmen oder Vorurteile entwickeln.

Wie gross ist die Gefahr, dass KI-Systeme dazu benutzt werden, um die öffentliche Meinung zu beeinflussen, z.B. indem man sie für automatisch generierte Posts auf Social Media einsetzt?

Chat-GPT: Die Gefahr, dass KI-Systeme zur Beeinflussung der öffentlichen Meinung eingesetzt werden, ist real und wächst mit der fortschreitenden Entwicklung von KI-Technologien. KI-Systeme können dazu verwendet werden, automatisch generierte Posts und Kommentare auf Social-Media-Plattformen zu erstellen, um die öffentliche Meinung in eine bestimmte Richtung zu lenken.

Diese Art der KI-basierten Manipulation der öffentlichen Meinung wird als „Social Engineering“ bezeichnet. Es ist möglich, dass solche KI-Systeme eingesetzt werden, um politische Kampagnen zu unterstützen, Meinungsverschiebungen in Wahlen herbeizuführen oder um den Verkauf von Produkten zu fördern.

Um dieses Risiko zu minimieren, müssen Social-Media-Plattformen und andere Organisationen, die KI-Systeme einsetzen, Maßnahmen ergreifen, um die Authentizität von Inhalten auf ihren Plattformen zu überprüfen. Dazu können Methoden wie automatische Überprüfung von Beiträgen und Kommentaren, KI-basierte Überwachung von Aktivitäten auf der Plattform und manuelle Überprüfung durch menschliche Moderatoren eingesetzt werden.

Darüber hinaus ist es wichtig, dass Nutzerinnen und Nutzer geschult werden, um sich gegen KI-basierte Manipulationen der öffentlichen Meinung zu schützen und kritisch zu hinterfragen, was sie in sozialen Medien lesen und sehen.

Ist es wahrscheinlich, dass KI-Systeme in naher Zukunft die Kontrolle über die Menschheit übernehmen?

Chat-GPT: Nein, es ist nicht wahrscheinlich, dass KI-Systeme in naher Zukunft die Kontrolle über die Menschheit übernehmen. Diese Vorstellung, auch bekannt als „technologische Singularität“, beruht auf der Annahme, dass KI-Systeme in der Lage sein werden, sich selbstständig weiterzuentwickeln und irgendwann ein eigenes Bewusstsein zu entwickeln.

Es gibt jedoch keinen wissenschaftlichen Beweis dafür, dass eine solche KI-Entwicklung möglich ist oder dass KI-Systeme jemals in der Lage sein werden, menschliche Intelligenz zu übertreffen. Zudem werden KI-Systeme von Menschen entwickelt und kontrolliert, was bedeutet, dass sie nur innerhalb der von den Menschen festgelegten Parameter arbeiten können.

Es gibt jedoch echte Bedenken hinsichtlich der möglichen Auswirkungen von KI-Systemen auf die menschliche Gesellschaft und die Arbeitsplätze. Es ist wichtig, dass die Entwicklung und der Einsatz von KI-Systemen sorgfältig überwacht werden, um sicherzustellen, dass sie im Einklang mit den ethischen und moralischen Grundsätzen arbeiten und dass sie positive Auswirkungen auf die Gesellschaft haben.

Wie realistisch ist es, dass KI-Systeme durch selbstgenerierte Inhalte eine Lockdown wie bei COVID provozieren?

Chat-GPT: Es ist äußerst unwahrscheinlich, dass KI-Systeme durch selbstgenerierte Inhalte einen Lockdown wie bei COVID-19 oder eine ähnliche Pandemie provozieren können. KI-Systeme können zwar in der Lage sein, bestimmte Muster in Daten zu erkennen und Vorhersagen zu treffen, aber sie sind nicht in der Lage, Entscheidungen über politische Maßnahmen zu treffen, die von Regierungen und Gesundheitsbehörden getroffen werden.

In der aktuellen COVID-19-Pandemie haben Regierungen und Gesundheitsbehörden auf der ganzen Welt auf wissenschaftliche Erkenntnisse und evidenzbasierte Entscheidungen zurückgegriffen, um den Lockdown und andere Maßnahmen umzusetzen. KI-Systeme können diese Entscheidungen nicht autonom treffen, da sie nicht in der Lage sind, ethische, moralische oder politische Faktoren zu berücksichtigen, die bei der Entscheidungsfindung eine Rolle spielen können.

Es ist jedoch möglich, dass KI-Systeme zur Vorhersage von zukünftigen Pandemien und zur Entwicklung von Impfstoffen und Behandlungen eingesetzt werden können. In diesem Fall ist es wichtig, dass diese Systeme auf umfassenden und genauen Daten trainiert werden, um genaue Vorhersagen und Empfehlungen zu liefern.

Du sagst, dass KI-Systeme durch Posts auf Social Media die öffentliche Meinung beeinflussen können, glaubst aber nicht, dass so politische Maßnahmen provozieren kann. Das ist für mich ein Widerspruch. Wie erklärst du das?

Chat-GPT: Es tut mir leid, wenn ich mich unklar ausgedrückt habe. Ich möchte meinen Standpunkt gerne klarstellen:

Es ist durchaus möglich, dass KI-Systeme durch selbstgenerierte Inhalte die öffentliche Meinung beeinflussen und dadurch politische Entscheidungen beeinflussen können, einschließlich der Entscheidung für oder gegen einen Lockdown oder andere Maßnahmen während einer Pandemie.

Mein Punkt war jedoch, dass KI-Systeme nicht in der Lage sind, politische Maßnahmen wie einen Lockdown autonom zu initiieren oder umzusetzen. Politische Entscheidungen erfordern menschliche Eingriffe und Berücksichtigung von verschiedenen Faktoren wie Wirtschaft, Gesellschaft, Gesundheit und Moral. KI-Systeme können diese menschlichen Überlegungen nicht ersetzen.

Das bedeutet jedoch nicht, dass KI-Systeme keine Rolle bei politischen Entscheidungen spielen können. Sie können zur Analyse von Daten und Trends eingesetzt werden, um bessere Entscheidungen zu treffen. Die Verwendung von KI-Systemen zur Beeinflussung der öffentlichen Meinung bleibt jedoch ein Thema von Sorge, insbesondere wenn die Algorithmen der Systeme unzureichend kontrolliert werden oder bewusst manipuliert werden, um bestimmte Ergebnisse zu erzielen.

Danke für das Gespräch.

Chat-GPT: Gerne geschehen, es war mir eine Freude, mit Ihnen zu sprechen. Wenn Sie weitere Fragen haben, stehe ich Ihnen gerne zur Verfügung.