Metas AI-App ist ein Datenschutz-Desaster

The Meta AI app is a privacy disaster | TechCrunch

Meta does not indicate to users what their privacy settings are as they post, or where they are even posting to. So, if you log into Meta AI with Instagram, and your Instagram account is public, then so too are your searches.

TechCrunchAmanda Silberling

Meta und Datenschutz sind zwei Begriffe, die selten (bis nie) in einem positiven Zusammenhang stehen. Mit ihrer neuen AI-App, die Ende April gelauncht wurde, hat es das Team um Mark Zuckerberg jedoch geschafft, ganz neue Horror-Szenarien zu kreieren. Es klingt wie der Plot einer Black Mirror-Episode:

When you ask the AI a question, you have the option of hitting a share button, which then directs you to a screen showing a preview of the post, which you can then publish. But some users appear blissfully unaware that they are sharing these text conversations, audio clips, and images publicly with the world.

When I woke up this morning, I did not expect to hear an audio recording of a man in a Southern accent asking, “Hey, Meta, why do some farts stink more than other farts?”

Flatulence-related inquiries are the least of Meta’s problems. On the Meta AI app, I have seen people ask for help with tax evasion, if their family members would be arrested for their proximity to white-collar crimes, or how to write a character reference letter for an employee facing legal troubles, with that person’s first and last name included. Others, like security expert Rachel Tobac, found examples of people’s home addresses and sensitive court details, among other private information.

Ich kann wirklich nur davon abraten, durch die Bildergalerie des Artikels oder Screenshots auf X zu scrollen. Man fühlt sich, als würde man nicht nur den zeitweise sehr traurigen und bedenklichen Google-Verlauf von Fremden mitlesen, sondern auch einen Einblick in ihre Gedankenwelt bekommen. Eine Welt, die lieber im Verborgenen geblieben wäre.

Kein Wunder, dass Zuckerberg gerade alles daran setzt, diesen und weitere Skandale der letzten Monate auszubügeln. Erst gestern wurde offiziell bestätigt, dass Meta 49% von Scale AI kaufen wird – vordergründig um deren CEO Alexander Wang zu acqui-hiren. Wang ist MIT-Dropout, war 2021 der jüngste Selfmade-Milliardär der Welt und soll nun als neuer Kopf von Metas AI-Unit fungieren. Ob er den Dampfer wieder auf Kurs bringen kann, bleibt abzuwarten. Viel schlimmer kann es jedenfalls kaum werden.