Jag reagerade särskilt på det när jag testade nya videofunktionen i Gemini Live härom veckan men fenomenet är egentligen inte nytt. Grundfrågan handlar om vad vi vill ha av AI, trovärdiga svar eller något annat.
När jag startade Googles Gemini Live första gången blev dess första ord “Vilket fint vardagsrum du har”. Ja visst, vardagsrum var ju korrekt, men någon typ av stilbedömning var inget jag hade frågat efter. Gemini fortsatte och påstod då att “gardinerna matchar blommorna i fönstret” och utan att betrakta varken mig själv eller Gemini som inredningsexperter så kan jag säga att det påståendet inte stärkte mitt förtroende för AI-assistenten. Det kändes mest som grundlöst smicker.
Det är tydligt att AI tränats för att inte säga något stötande eller kontroversiellt. Hellre faktafel än förolämpningar. Som journalist har jag lärt mig att ifrågasätta människors svar som en intervjuteknik för att testa deras övertygelse. “Kan det inte vara så här istället, eller är du helt säker på din sak?”
Jag reagerade särskilt på det när jag testade nya videofunktionen i Gemini Live härom veckan men fenomenet är egentligen inte nytt. Grundfrågan handlar om vad vi vill ha av AI, trovärdiga svar eller något annat.
När jag startade Googles Gemini Live första gången blev dess första ord “Vilket fint vardagsrum du har”. Ja visst, vardagsrum var ju korrekt, men någon typ av stilbedömning var inget jag hade frågat efter. Gemini fortsatte och påstod då att “gardinerna matchar blommorna i fönstret” och utan att betrakta varken mig själv eller Gemini som inredningsexperter så kan jag säga att det påståendet inte stärkte mitt förtroende för AI-assistenten. Det kändes mest som grundlöst smicker.
Det är tydligt att AI tränats för att inte säga något stötande eller kontroversiellt. Hellre faktafel än förolämpningar. Som journalist har jag lärt mig att ifrågasätta människors svar som en intervjuteknik för att testa deras övertygelse. “Kan det inte vara så här istället, eller är du helt säker på din sak?”
När jag frågar Gemini om specifikationer på en av telefonerna jag nyligen testar får jag snabbt ett svar, som baserat på formuleringarna till och med verkar direkt tagna från texten jag skrivit och publicerat på mobil.se. Så de specifikationerna stämmer. När jag trots det, felaktigt hävdar för Gemini att det den just sagt är fel, lägger den sig platt direkt och ber om ursäkt “för det felaktiga svaret” som ju var rätt och redogör sedan för specifikationerna på ett annat sätt.
Jag vill inte ha en AI som bara är mig till lags. Jag vill hellre att den kollar sina fakta bättre och värderar sina källor. Totalt ryggradslöst smicker leder ju ingenstans.
Det här får mig att tänka på reklam jag fått upp i sociala medier om appar där jag uppmanas skaffa mig en egen AI-partner. Upplägget känns illavarslande. Jag får välja om det ska vara en kille eller tjej. Bra. Jag får skräddarsy utseende. Ok. Och sen är tydligen tanken att vi ska konversera. Nu har jag inte tagit fasta på erbjudandet, men oavsett om man vill ha en diskussionspartner, bara känner sig lite ensam eller har några andra behov så befarar jag att AI-apparna är fel väg.
Tack för erbjudandet AI, men jag tycker inte om dig på det sättet.
