Meta in der Kritik: Chatbot bestreitet Attentat auf Donald Trump

Der Facebook-Konzern Meta steht erneut im Zentrum einer Kontroverse. Diesmal geht es um seinen KI-Chatbot Meta AI, der das Attentat auf den früheren US-Präsidenten Donald Trump bestritten hat. Der Vorfall wirft ein Schlaglicht auf die problematischen „Halluzinationen“ von KI-Systemen, bei denen diese falsche Informationen generieren.

Meta AI und die „Halluzinationen“

Der Vorfall ereignete sich, als Meta AI, der KI-Chatbot des Konzerns, Fragen zum Attentat auf Donald Trump zunächst nicht beantworten wollte und später sogar behauptete, das Attentat habe nie stattgefunden. Meta erklärte, dass diese sogenannten „Halluzinationen“ ein bekanntes Problem von KI-Chatbots seien. Diese entstehen, weil die Software auf Basis von riesigen Datenmengen trainiert wird und bei Nutzeranfragen Wort für Wort abwägt, wie ein Satz wahrscheinlich weitergehen sollte. Dies kann dazu führen, dass die Software völlig falsche Aussagen generiert, auch wenn sie nur mit korrekten Informationen gefüttert wurde.

Rechtfertigung und Kritik

Meta musste sich nach heftiger Kritik aus dem Lager der Trump-Anhänger rechtfertigen. In einem Blogeintrag erklärte der Konzern, dass Meta AI zunächst absichtlich nicht über das Attentat sprechen sollte, da rund um schlagzeilenträchtige Ereignisse oft widersprüchliche Angaben und unbegründete Spekulationen kursieren. Auch nachdem die KI mit Informationen über das Attentat gefüttert worden sei, habe sie „in wenigen Fällen“ behauptet, es sei nicht passiert. Dies sei „unglücklich“, aber keine Absicht gewesen, so Meta.

Ein weiteres Problem: Faktencheck-Label

Zusätzlich geriet Meta in die Kritik, als ein Foto von Trump und seinen Leibwächtern unmittelbar nach dem Attentat fälschlicherweise mit einem Faktencheck-Label versehen wurde. Ursprünglich war eine manipulierte Version des Bildes, in der ein Lächeln auf die Gesichter der Bodyguards hinzugefügt wurde, mit diesem Label markiert worden. Doch für die automatisierten Systeme von Meta war der Unterschied zwischen dem manipulierten und dem Originalfoto schwer zu erkennen, sodass das Label auch zum Originalfoto hinzugefügt wurde.

Der Hergang des Attentats

Das Attentat ereignete sich während eines Wahlkampfauftritts im Bundesstaat Pennsylvania, als ein Mann auf Donald Trump schoss. Die Kugeln töteten einen Zuschauer und verwundeten zwei weitere Personen. Der Ex-Präsident selbst wurde am Ohr getroffen, überlebte jedoch den Anschlag.

Die Herausforderungen der KI-Entwicklung

Der Vorfall zeigt einmal mehr die Herausforderungen, denen sich die Entwickler von KI-Systemen gegenübersehen. Trotz intensiver Bemühungen, die Programme mit zusätzlichen Leitplanken auszustatten, bleibt das Problem der „Halluzinationen“ bestehen. Es wird deutlich, dass noch viel Arbeit nötig ist, um die Zuverlässigkeit und Genauigkeit von KI-Chatbots zu verbessern.

Währenddessen bleibt die Frage offen, wie solche Systeme in sensiblen und politisch aufgeladenen Kontexten eingesetzt werden können, ohne dass es zu gravierenden Fehlinformationen kommt. Die Kritik an Meta zeigt, dass die Öffentlichkeit und insbesondere politische Lager wachsam bleiben müssen, um die Integrität und Richtigkeit der durch KI generierten Informationen zu gewährleisten.