Online-Polizeistreifen in Form von digitalen roBOTs zur Aufdeckung von möglichem Kindesmissbrauch. Und eine neue Art der Gesichtserkennung, die datenschutzfreundlicher sein wird als die bisherigen biometrischen Methoden. Dies sind die Schlagzeilen für zwei neue Projekte, die für die KI-Sandbox der norwegischen Datenschutzbehörde ausgewählt wurden.

„Beide Projekte dringen tief in Bereiche ein, in denen die Datenschutzbehörde und die Gesellschaft im Allgemeinen viel Wissen und Offenheit benötigen. Beide Projekte haben das Potenzial, sowohl anspruchsvoll als auch spannend zu sein„, sagt Veronica Jarnskjold Buer, Abteilungsleiterin bei der norwegischen Datenschutzbehörde.

Digitale Patrouille

PrevBOT ist eine Zusammenarbeit zwischen der norwegischen Polizeihochschule und der Universität von Agder. Es handelt sich um ein Konzept für ein Tool zur Überwachung offener sozialer Medien mit dem Ziel, sexuellen Missbrauch von Kindern zu verhindern. Der KI-basierte Bot wird in der Lage sein, Verhaltensweisen zu erkennen, die auf ein Risiko des sexuellen Missbrauchs hindeuten, und er wird in der Lage sein, auf soziale Bereiche hinzuweisen, denen besondere Aufmerksamkeit geschenkt werden sollte. Er wird in der Lage sein, „Grooming“-Gespräche durch Analyse der Sprache zu erkennen und das Alter und Geschlecht der Beteiligten vorherzusagen.

„Das Projekt ist bahnbrechend, und uns fehlen gute Beispiele, auf die wir zurückgreifen können. Es bezieht die Polizei mit ein und ist in vielerlei Hinsicht sensibel. Die Möglichkeit, das Projekt im Sandkasten zu erforschen, ist in der Praxis wahrscheinlich ein Gewinn für das Projekt“, sagt Inger Marie Sunde, Professorin in der Forschungsabteilung der norwegischen Polizeihochschule.

„Das übergeordnete Ziel ist es, sexuellen Missbrauch von Kindern zu verhindern. Aber ist es möglich, dies mit PrevBOT innerhalb der bestehenden Gesetze und ethischen Richtlinien zu erreichen? Ist es technologisch möglich, den Bot mit ausreichender Präzision patrouillieren zu lassen? Und wird es eine Debatte darüber erfordern, wie wir die neue Technologie nutzen sollten und werden?

„Bei denjenigen von uns, die im Bereich des Datenschutzes tätig sind, zuckt automatisch der Zeigefingerreflex. Gerade deshalb ist es besonders spannend, unvoreingenommen an dieses Projekt heranzugehen und zu sehen, ob es ohne Konflikte mit der Privatsphäre möglich ist“, sagt Buer.

Ein datenschutzfreundliches Gesicht

Im zweiten Projekt will das Start-up-Unternehmen Mobai der datenschutzfreundlichen Gesichtserkennung ein Gesicht geben. Es ist kein Geheimnis, dass sowohl die norwegischen als auch die europäischen Datenschutzbehörden die Gesichtserkennung – und insbesondere die Gesichtserkennung in Kombination mit künstlicher intelligenter Analyse – für ein anspruchsvolles und herausforderndes Thema mit hohem Risiko halten.

„Ob diese Initiative der Schlüssel zu einer datenschutzfreundlichen Innovation sein kann, ist ein spannendes Potenzial“, sagt Buer.

„Für uns ist es von entscheidender Bedeutung, den Einsatz von Biometrie mit der norwegischen Datenschutzbehörde zu diskutieren, damit wir eine sichere und datenschutzfreundliche Lösung für die Gesichtsverifikation als Maßnahme gegen den zunehmenden Betrug entwickeln können“, sagt Brage Strand, CEO von Mobai.

Mobai verfügt über solides Fachwissen aus mehreren Quellen. Zum Team gehören BankID, Sparebank1 Østlandet, NTNU und das Zentrum für IT- und IP-Recht an der Universität Leuven in Belgien. Sie wollen untersuchen, wie die Gesichtserkennung auf eine sicherere Art und Weise implementiert werden kann, die dem Benutzer auch mehr Kontrolle gibt. Die Lösung soll es ermöglichen, die Gesichtserkennung für eine einfachere und sicherere Authentifizierung der Nutzer von Bankdienstleistungen zu nutzen und so das Risiko von Betrug und Missbrauch zu verringern.

Wichtige Sandkastenprojekte

Wie immer in der Sandbox ist die Zeit von der Zulassung bis zum Start kurz. Etwa zur gleichen Zeit, in der der Frühling blüht, beginnt die konstruktive, dialogorientierte Begleitung im Sandkasten. Bei Mobai ist Strand am meisten darauf gespannt, ob sie sich gut genug vorbereitet haben, um das Projekt einfach und verständlich präsentieren zu können.

„Und nicht zuletzt freuen wir uns auf gute Diskussionen über die Herausforderungen und Möglichkeiten zusammen mit der norwegischen Datenschutzbehörde„, sagt er.

Herr Buer, Direktor der norwegischen Datenschutzbehörde, macht keinen Hehl daraus, dass beide Projekte Elemente enthalten, die die Privatsphäre des Einzelnen in der Gesellschaft in Frage stellen können.

„Und genau deshalb sind diese Projekte so wichtig. Es ist großartig, dass sich Mobai und die Polizeihochschule/UiA für die Sandbox beworben haben. So können wir gemeinsam eine datenschutzfreundliche Innovation erreichen„, sagt Buer.

Sie weist darauf hin, dass die norwegische Datenschutzbehörde in der Sandbox freier ist, Grenzen auszuloten und sich konstruktiv für den Schutz der Privatsphäre einzusetzen, da es im Sandbox-Prozess nicht darum geht, Projekten einen Genehmigungsstempel zu geben. Das macht es einfacher, offen über Herausforderungen zu sprechen, und der Prozess ist für alle Beteiligten lehrreicher.

An diejenigen, die Bedenken bezüglich des Datenschutzes haben: Machen Sie sich keine Sorgen, wir gehen unvoreingenommen in das Projekt. An die teilnehmenden Organisationen: Entspannen Sie sich, wir gehen unvoreingenommen an die Sache heran.

https://www.datatilsynet.no/aktuelt/aktuelle-nyheter-2023/to-nye-prosjekt-i-sandkassa/