Kinderporno-Scan: Apples Antworten lassen viele Fragen offen

Stellt euch vor, das schwedische Einrichtungskaufhaus IKEA hätte am vergangenen Donnerstag automatisierte Fotoprüfungen in euren Wohnzimmern angekündigt. Ab Herbst würden aus diesem Anlass kleine Roboter entsandt, vorerst nur in die vier Wände aller amerikanischen IKEA-Kunden, perspektivisch jedoch weltweit.

Die Roboter prüfen alle aufgebauten Billy-Regale auf in diesen abgestellte Fotoalben, die ihr in der kommenden Woche mit aus dem Haus nehmen wolltet. Werden Alben gefunden, sollen diese gewissenhaft durch geblättert werden. Die Roboter lassen alle Fotos von nahezu fehlerfreien Algorithmen erfassen und gleichen diese dann mit einer Datenbank ab, in der die digitalen Fingerabdrücke von Fotomotiven hinterlegt sind, auf denen die sexuelle Ausbeutung von Kindern zu sehen ist.

Aber keine Angst: Finden IKEAs Roboter, die nicht nur eindeutig identische, sondern auch ähnliche Bilder melden, in euren Alben mögliche Treffer, werden diese durch Angestellte des Möbelhauses noch einmal händisch geprüft, ehe die Behörden verständigt werden.

Apple macht es digital

Der Aufschrei wäre wohl gigantisch ausgefallen. Die Kunden des Möbelhauses hätten viele offene Fragen gehabt und wohl energisch auf Antworten gepocht: „Ich kenne den Inhalt meiner Foto-Alben, natürlich habe ich solch furchtbare Schnappschüsse nicht im Haus. Dass muss ich niemandem beweisen, erst recht keinen Robotern, die möglicherweise eklatante Fehler machen. “

Genau diese Reaktion erlebt Apple gerade, nachdem der Konzern Ende der vergangenen Woche eine entsprechende Überprüfung privater Bilder angekündigt hat.

Um auf den (zurecht) lauten Aufschrei zu reagieren, der seitdem auf Apple niederprasselt, hat das Unternehmen inzwischen ein FAQ-Dokument veröffentlicht, das Antworten auf häufige Fragen zur angekündigten Fotoüberprüfung liefern will. Das hastig veröffentlichte 6-Seiten-Dokument (PDF-Download) weicht allerdings eher aus als konkret zu werden.

Apple setzt auf das Vertrauen seiner Nutzer

Trotz immerhin 12 beantworteter Fragen ist weiterhin völlig unklar, wie viele Foto-Fingerabdrücke Apple mit den Geräten seiner Anwender abgleichen will und wo genau diese von wem zusammengestellt werden. Apple spricht lediglich von der NCMEC und „anderen Kinderschutzorganisationen“. Prozesse was die Erstellung, den Zugriff und die Erweiterung der Datenbank angeht, bleiben unklar.

Zudem scheint Apple vor allem auf den Vertrauensvorschuss seiner Nutzer zu setzen und bleibt vage. Die Frage „Könnten Regierungen Apple dazu zwingen, andere Bilder in die Liste aufzunehmen?“ beantwortet der Konzern etwa schlicht mit „Apple wird derartige Forderungen ablehnen“. Im Text fehlt nur noch die Barschel-Fußnote, mit der Tim Cook stellvertretend für Apple sein Ehrenwort gibt.

Vor versehentlichen Anzeigen soll „eine menschliche Überprüfung“ durch Apple-Mitarbeiter schützen. Im Zweifelsfall entscheiden über die vermeintliche Legalität eurer Urlaubsfotos also die selben Personen, die in den zurückliegenden Jahren zahlreiche Fehlentscheidungen beim Zugang zum App Store getroffen haben, der bekanntlich ebenfalls auf „menschliche Überprüfungen“ setzt.

Wir gehen davon aus, dass unsere Leser die skizzierten IKEA-Roboter nicht durch die Wohnungstür lassen würden und wundern uns darüber, was Apple zu der Annahme veranlasst hat, dass dies auf unseren Telefonen akzeptabel wäre.

Zum Nachlesen

• Kinderporno-Scan: Apple hofft auf ein Missverständnis
• Kinderporno-Scan auf allen iPhones: Apple erntet Kritik von allen Seiten
• Dickpic per iMessage: iOS 15 warnt vor Penis-Bildern
• Missbrauchsfotos: Das iPhone prüft mit iOS 15 auch lokal
• Kindesmissbrauch: Apple scannt iCloud-Fotos auf bekannte Bilder