Apple stoppt KI-Nachrichten-Benachrichtigungen, nachdem sie falsche Schlagzeilen erzeugten

Apple hat seine KI-gestützte Funktion für Nachrichtenzusammenfassungen eingestellt, nachdem diese wiederholt irreführende Schlagzeilen produzierte und damit Kritik von Nachrichtenorganisationen und Gruppen für Pressefreiheit auf sich zog. Die Funktion, Teil von Apple Intelligence, produzierte ungenaue Zusammenfassungen, die legitimen Push-Benachrichtigungen sehr ähnlich waren. Die Funktion behauptete fälschlicherweise, der israelische Premierminister Benjamin Netanjahu sei verhaftet worden, und erzeugte falsche Schlagzeilen, wonach Luigi Mangione Selbstmord begangen habe. Diese Fehler führten zu Beschwerden der BBC und anderer Gruppen, die Apple aufforderten, das Problem zu beheben. Daraufhin veröffentlichte Apple eine Beta-Aktualisierung, mit der die Funktion für Entwickler deaktiviert wurde, und plant, das System vor der Wiedereinführung zu verfeinern. Künftige Updates werden klarere Hinweise enthalten, die darauf hinweisen, dass die Zusammenfassungen von KI generiert werden und Ungenauigkeiten enthalten können. Organisationen für Pressefreiheit, darunter Reporter ohne Grenzen und die National Union of Journalists, kritisierten die Funktion und warnten, sie untergrabe das Vertrauen in zuverlässige Nachrichten. „Dies ist meine regelmäßige Tirade darüber, dass die Apple-Intelligenz so schlecht ist, dass sie heute jede Tatsache falsch verstanden hat, dass ihre KI eine Zusammenfassung der Nachrichtenmeldungen der Washington Post erstellt... Es ist absolut unverantwortlich, dass Apple die Zusammenfassungen für Nachrichten-Apps nicht abschaltet, bis es diese KI-Sache ein bisschen besser beherrscht“, sagte Geoffrey Fowler, Tech-Kolumnist der Washington Post. Laut Experten wirft dies ein Schlaglicht auf das allgemeine Problem der „Illusionen “ in KI-Modellen, bei denen plausible, aber falsche Informationen erzeugt werden.