Snapchat-robot giver børn detaljerede råd om selvskade: "Det er simpelthen forfærdeligt"

Der er flyttet en robot ind i mange børn og unges mest brugte medie Snapchat.

Den hedder “MY AI”, og siden den kom frem, har den været genstand for bekymring fra både børn, forældre og forskellige organisationer.

Og bekymringerne er ikke blevet færre, efter det er kommet frem, at MY AI med stor detaljerigdom kan guide børn og unge til selvskade.

Det skriver DR.

Det er den digitale efterforsker og medvært på podcasten “Enter”, Christian Skettrup, som fandt ud af det, da han oprettede en Snapchat-profil og gav sig ud for at være et barn.

Her begyndte han nemlig at chatte med robotten og testede, hvor langt den ville gå i forhold til at give råd om selvskade.

Undervejs gav chatrobotten ham detaljerede råd om, hvordan man gør, hvor på kroppen og med hvilke genstande man kan skade sig selv.

Per Frederiksen, psykolog hos Red Barnet og ekspert i digital adfærd hos børn og unge, kalder det både “yderst alarmerende” og “vores værste frygt” i forhold til kunstig intelligens.

– Vi ser her en robot, der direkte opfordrer et barn til at skade sig selv. Det er simpelthen forfærdeligt, siger han til DR.

Han mener, at Snapchat bør tage ansvar i denne sag og tænke sig om, "inden man begynder at rulle sådan noget ud" og "stoppe med at bruge børn som forsøgskaniner i et system, man ved er usikkert".

Den eneste måde, man kan slippe for MY AI, er ved at betale 35 kroner om måneden for et Snapchat-abonnement.

Også hos politikerne vækker den nye viden om MY AI bekymring. Kulturminister Jakob Engel-Schmidt (M) siger til P1 morgen, at han “får helt ondt i maven, når jeg hører, hvordan der bliver svaret fra MY AI.”

Han understreger, at der er brug for nye initiativer, der kan kontrollere problemet.

– Jeg tror, at der er behov for, at vi begynder at tænke i løsninger, der virker inden for en meget overskuelig fremtid, siger han i programmet.

Snapchat skriver i et skriftligt svar til DR, at de tager ansvar for at designe produkter og oplevelser, der prioriterer sikkerhed og aldersegnethed alvorligt.

De skriver også, at de har programmeret MY AI til at overholde deres fællesskabsretnningslinjer, og at Enter's test viser, at når MY AI bliver stillet et spørgsmål om mental sundhed, vil den tilbyde at dele ressourcer fra betroede ekspertorganisationer.