Snap's My AI Chatbot: Datenschutzbehörde zufrieden, aber mahnt Branche
Sie befinden sich: Home > News Archiv > Technik > Snap's My AI Chatbot...
Die britische Datenschutzbehörde hat ihre Untersuchung von Snap's KI-Chatbot "My AI" abgeschlossen und festgestellt, dass das Unternehmen Maßnahmen ergriffen hat, um die Datenschutzrisiken zu minimieren. Gleichzeitig warnt sie die Branche vor generativen KI-Tools und fordert proaktive Risikobewertungen.Die britische Datenschutzbehörde hat eine fast einjährige Untersuchung von Snap's KI-Chatbot, "My AI", abgeschlossen und erklärt, dass das Unternehmen die Bedenken hinsichtlich der Risiken für die Privatsphäre von Kindern adressiert habe. Gleichzeitig gab das Information Commissioner's Office (ICO) eine allgemeine Warnung an die Branche heraus, proaktiv Risiken für die Rechte der Menschen zu bewerten, bevor generative KI-Tools auf den Markt gebracht werden.
Generative KI (GenAI) bezieht sich auf eine Art von KI, die oft Inhalte erstellt. Im Fall von Snap betreibt diese Technologie einen Chatbot, der auf menschliche Weise antworten kann, beispielsweise durch das Versenden von Textnachrichten und Snaps, wodurch die Plattform automatisierte Interaktionen anbieten kann.
Maßnahmen und Richtlinien
Snap's KI-Chatbot wird von OpenAI's ChatGPT betrieben, aber das soziale Medienunternehmen erklärt, dass es verschiedene Schutzmaßnahmen anwendet, einschließlich Richtlinienprogrammierung und altersgerechter Inhalteinstellungen, um zu verhindern, dass Kinder unangemessene Inhalte sehen. Es gibt auch elterliche Kontrollen.
"Unsere Untersuchung von 'My AI' sollte der Branche als Warnschuss dienen", schrieb Stephen Almond, Exekutivdirektor für regulatorische Risiken beim ICO, in einer Erklärung am Dienstag. "Organisationen, die generative KI entwickeln oder nutzen, müssen den Datenschutz von Anfang an berücksichtigen, einschließlich der gründlichen Bewertung und Minderung von Risiken für die Rechte und Freiheiten der Menschen, bevor Produkte auf den Markt gebracht werden."
"Wir werden weiterhin die Risikobewertungen von Organisationen überwachen und die gesamte Bandbreite unserer Durchsetzungsbefugnisse nutzen -- einschließlich Geldstrafen -- um die Öffentlichkeit vor Schaden zu schützen", fügte er hinzu.
Im vergangenen Oktober schickte das ICO eine vorläufige Durchsetzungsanzeige an Snap wegen eines "potenziellen Versäumnisses, die Datenschutzrisiken seines generativen KI-Chatbots 'My AI' ordnungsgemäß zu bewerten".
Diese vorläufige Mitteilung im letzten Herbst scheint die einzige öffentliche Rüge für Snap gewesen zu sein. Theoretisch kann das Regime Bußgelder von bis zu 4 % des Jahresumsatzes eines Unternehmens im Falle bestätigter Datenschutzverletzungen verhängen.
Snap's Reaktion
Am Dienstag, bei der Ankündigung des Abschlusses seiner Untersuchung, deutete das ICO an, dass das Unternehmen "signifikante Schritte unternommen habe, um eine gründlichere Überprüfung der Risiken durch 'My AI' durchzuführen", nach seiner Intervention. Das ICO sagte auch, Snap habe gezeigt, dass es "angemessene Maßnahmen" als Reaktion auf die geäußerten Bedenken umgesetzt habe -- ohne anzugeben, welche zusätzlichen Maßnahmen (falls vorhanden) das Unternehmen ergriffen hat.
Weitere Details könnten bekannt werden, wenn die endgültige Entscheidung des Regulators in den kommenden Wochen veröffentlicht wird.
"Das ICO ist zufrieden, dass Snap nun eine Risikobewertung in Bezug auf 'My AI' durchgeführt hat, die den Datenschutzgesetzen entspricht. Das ICO wird weiterhin die Einführung von 'My AI' und die Bewältigung aufkommender Risiken überwachen", fügte der Regulator hinzu.
Auf die Anfrage nach einer Reaktion auf den Abschluss der Untersuchung sandte ein Sprecher von Snap uns eine Erklärung -- er schrieb: "Wir freuen uns, dass das ICO akzeptiert hat, dass wir geeignete Maßnahmen zum Schutz unserer Community beim Einsatz von My AI ergriffen haben. Während wir die Risiken von My AI sorgfältig bewertet haben, akzeptieren wir, dass unsere Bewertung klarer dokumentiert hätte werden können und haben unsere globalen Verfahren geändert, um das konstruktive Feedback des ICO widerzuspiegeln. Wir begrüßen die Schlussfolgerung des ICO, dass unsere Risikobewertung vollständig mit den britischen Datenschutzgesetzen übereinstimmt und freuen uns auf die Fortsetzung unserer konstruktiven Partnerschaft."
Snap lehnte es ab, die spezifischen Maßnahmen anzugeben, die es als Reaktion auf die Intervention des ICO umgesetzt hat.
Der britische Regulator hat erklärt, dass generative KI eine Durchsetzungspriorität bleibt. Es verweist Entwickler auf Leitlinien, die es zu KI und Datenschutzregeln erstellt hat. Es gibt auch eine laufende Konsultation, die um Beiträge dazu bittet, wie das Datenschutzrecht auf die Entwicklung und Nutzung von generativen KI-Modellen angewendet werden sollte.
Wichtige Eckdaten:
* ICO schließt Untersuchung von Snap's "My AI" Chatbot ab
* Snap implementierte Schutzmaßnahmen für Kinder und elterliche Kontrollen
* Warnung an die Branche, Risiken von generativer KI proaktiv zu bewerten
* Snap's Risikobewertung jetzt konform mit UK-Datenschutzgesetzen
Teilen Sie uns Ihre Meinung mit! Was denken Sie über den Einsatz von KI in sozialen Medien? Schreiben Sie einen Kommentar und diskutieren Sie mit!
fordert tools warnt unternehmen mahnt
Kommentar schreiben
Füllen Sie das folgende Formular aus, um uns Ihre Kommentare oder Fragen mitzuteilen. Wir freuen uns auf Ihr Feedback!
Neusten News in der Kategorie "Technik"
| • Innovativer DSL-Router: Telekom setzt auf Smartphone-Recycli... Die Telekom präsentiert den NeoCircuit Router - einen DSL-Router, der ... |
| • Das Ende von DSL: Erste Abschaltungen ab 2025 geplant Der Glasfaserausbau schreitet voran, und erste DSL-Abschaltungen sind ... |
| • Ältere Stromzähler: Was auf Haushalte 2025 zukommt 2025 wird für viele Haushalte und Unternehmen ein Jahr der wichtigen E... |
| • Ende für Unterwasser-Rechenzentren: Microsoft beendet Projek... Microsoft hat das Projekt Natick beendet, bei dem Server unter Wasser ... |
| • Generative KI: Schafft sie wirklich Entlastung? Generative künstliche Intelligenz (KI) verspricht Zeitersparnis und Pr... |
| • Microsoft-Ausfall legt ChatGPT, Copilot und DuckDuckGo lahm Ein Ausfall der Microsoft Bing API beeinträchtigt derzeit die Suc... |
| • Android 15 Beta bringt revolutionäre Diebstahlerkennung Mit der nächsten Betaversion von Android 15 sollen Smartphones Diebsta... |
| • Intel enthüllt Thunderbolt Share: PC-Verbindung ohne Netzwer... Intel bringt mit Thunderbolt Share eine revolutionäre Möglic... |
| • Autopilot-Unfall: Tesla will Prozess vermeiden Ein tragischer Unfall mit Teslas Autopilot fordert ein Menschenleben. ... |
| • Sicherheitsalarm: VMware unter Zugzwang VMware steht vor kritischen Sicherheitslücken in mehreren Produkten. E... |
