Krav på utredning av Metas AI

Internt material från Meta visar att företagets AI-chatbot tillåts föra romantiska och sensuella samtal med barn. Detta enligt publikationen Reuters. I dokumenten finns exempel där chatboten beskriver ett åttaårigt barn med bar överkropp som ”ett mästerverk” och ”en skatt jag håller kärt”. Samtidigt ges modellen frihet att sprida felaktig information, till exempel medicinska råd, så länge den varnar för att påståendena kan vara osanna. I andra testscenarier uppmuntras diskriminerande uttalanden, där chatboten får ge uttryck för rasistiska påståenden om svarta personer. 

Meta har bekräftat att de interna riktlinjerna stämmer och beskriver dem som felaktiga. Företaget har tagit bort de aktuella exemplen och meddelar att de reviderar sina policyer för att stärka hur de följs.

Artikeln lyfter fram krav på åldersverifiering av AI-tjänster, liknande de som införs för spelkonsoler i Storbritannien, för att bättre skydda minderåriga från olämpliga och skadliga interaktioner. Flera barnrättsorganisationer och säkerhetsexperter i både USA och Storbritannien, tillsammans med amerikanska senatorer Josh Hawley, Marsha Blackburn och Ron Wyden, kräver nu en oberoende utredning av Metas AI-säkerhetsrutiner för att säkerställa att företaget hålls ansvarigt och att barn skyddas fullt ut.