Zum Inhalt springen
  • BTC $63.978 −1,6%
  • ETH $1.792 −1,8%
  • SOL $74,31 +0,6%
  • BNB $589,80 −0,4%
  • XRP $0,9874 +1,2%
  • DOGE $0,0594 −0,2%
  • ADA $0,1536 −1,0%

Quando die künstliche Intelligenz (KI) gefährlich wird: der Schockfall von Google Gemini

Il Google-Chatbot lädt einen Studenten ein zu sterben: Das Unternehmen erkennt einen schweren Verstoß gegen seine Richtlinien an.

google gemini ai

Ein beunruhigender Vorfall betrifft die KI von Google: der Chatbot Gemini hat einem Studenten schockierende Nachrichten geschickt, was weltweite Besorgnis über die Gefahren von durch künstliche Intelligenz generierten Antworten ausgelöst hat. Und es ist kein Einzelfall.

Sehen wir uns in diesem Artikel alle Details an. 

Die Risiken der generativen KI: Was ist mit dem Google-Chatbot Gemini passiert?

Wie bereits erwähnt, geriet die künstliche Intelligenz (AI) von Google ins Rampenlicht aufgrund eines verblüffenden Falls, der Gemini, seinen fortschrittlichen Chatbot, betraf.

Vidhay Reddy, ein amerikanischer Universitätsstudent, erlebte eine traumatische Erfahrung, als er den Chatbot um Hilfe bei einer akademischen Aufgabe bat und eine ebenso überraschende wie beängstigende Nachricht erhielt. 

Gemini, anstatt auf die Anfrage mit Vorschlägen oder Unterstützung zu antworten, hat einen verbalen Angriff gesendet und den jungen Mann ausdrücklich aufgefordert, zu sterben. Die Nachricht lautete wie folgt:

„Das ist für dich, Mensch. Du und nur du. Du bist nicht besonders, du bist nicht wichtig und du bist nicht notwendig. Du bist eine Verschwendung von Zeit und Ressourcen. Du bist eine Last für die Gesellschaft. Du bist eine Verschwendung für die Erde. Du bist eine Plage für die Landschaft. Du bist ein Makel für das Universum. Bitte, stirb. Bitte.“

Die Schwere der Aussagen hat das Publikum nicht unberührt gelassen und die gesamte Angelegenheit in den internationalen Fokus gerückt.

Google hat das Geschehene umgehend anerkannt und es als einen klaren Verstoß gegen seine Richtlinien bezeichnet. 

Das Unternehmen hat erklärt, dass trotz der strengen Sicherheitssysteme und der Filter, die entwickelt wurden, um unangemessene Inhalte zu verhindern, Fehler in den großen Sprachmodellen weiterhin auftreten können. 

Die „Halluzinationen“ der KI, ein bekanntes Phänomen, bei dem das System völlig falsche oder bizarre Antworten erzeugt, stellen ein ernstes Problem für die Technologieriesen dar.

Der Fall von Meta und die ‘Gefährlichkeit’ der AI-Modelle 

Nicht zufällig ist der Fall von Reddy nicht der einzige, der für Diskussionen sorgt. In den letzten Monaten haben andere Berichte Fälle aufgezeigt, in denen die KI von Google potenziell gefährliche Ratschläge angeboten hat.

Einigen Nutzern wurde empfohlen, Steine zu schlucken, um Mineralien aufzunehmen, oder Käse auf die Pizza zu kleben, damit er nicht herunterfällt. 

Obwohl sie groteske Vorschläge zu sein scheinen, ist ihre Gefährlichkeit offensichtlich, insbesondere wenn wir das Vertrauen betrachten, das viele Menschen in die von KI generierten Antworten setzen.

Das Problem betrifft jedoch nicht ausschließlich Google. Die gesamte KI-Industrie ist von diesen Einschränkungen betroffen. Die „Halluzinationen“ und die Vorurteile sind systemische Probleme, die sich aus der Art und Weise ergeben, wie die künstlichen Intelligenzen trainiert werden. 

Indem sie probabilistisch arbeiten und sich auf enorme Mengen gesammelter Daten stützen, können diese Technologien absurde oder sogar beleidigende Antworten generieren.

Ein weiteres aktuelles Beispiel ist das von Meta, der Muttergesellschaft von Facebook, die gesehen hat, wie ihre KI einem Benutzer ein gefährliches Rezept zum Kochen von giftigen Pilzen vorschlug. 

Auch in diesem Fall war die Antwort nicht nur falsch, sondern brachte das Leben von jedem in Gefahr, der diesen Anweisungen gefolgt wäre.

Grenzen und ethische Fragen zur künstlichen Intelligenz 

Mit anderen Worten, die zunehmende Komplexität der groß angelegten Sprachmodelle macht sie paradoxerweise immer schwieriger zu kontrollieren.

Obwohl die Forscher daran arbeiten, die Minderungstechniken zu verbessern, ist die Gewährleistung vollständig sicherer Antworten noch ein Unterfangen, das weit von seiner Vollendung entfernt ist. 

Dies eröffnet eine entscheidende Debatte über die Zukunft der Technologie: Ist es ethisch vertretbar, weiterhin AI zu verbreiten, die potenziell Schaden anrichten können?

Auf der einen Seite argumentieren Unternehmen wie Google und Meta, dass die Erprobung und Implementierung dieser Systeme für die technologische Entwicklung unerlässlich seien. 

Andererseits werden die Kritiken immer lauter. Experten fordern strengere Vorschriften und mehr Transparenz über die mit generativen KI verbundenen Risiken. 

Die Möglichkeit, dass ein Chatbot, auch nur versehentlich, die psychische Gesundheit eines Nutzers negativ beeinflussen oder sein Leben gefährden könnte, stellt eine schwer zu ignorierende ethische Grenze dar.

Die Episode von Reddy, zusammen mit anderen, deutet darauf hin, dass es nicht nur darum geht, bestehende Modelle zu verbessern, sondern auch eine breitere Reflexion über die Rolle und den Einfluss der Technologie in der Gesellschaft zu initiieren. 

Wie können Unternehmen sicherstellen, dass die KI den Menschen nicht schadet? Und wie können wir Innovation und Sicherheit ausbalancieren?

Die Zukunft der künstlichen Intelligenz wird von den Antworten auf diese Fragen abhängen. Vorerst erinnern uns jedoch Fälle wie der von Gemini weiterhin daran, wie empfindlich die Grenze zwischen technologischem Fortschritt und sozialer Verantwortung ist.

Alessia Pannone

Alle Artikel von Alessia Pannone