Googles ingenjör hittar tecken på medvetande i artificiell intelligens LaMDA

Blake Lamon, Google Engineer berättade publicering av The Washington Post att systemet artificiell intelligens LaMDA började visa tecken på medvetande.

Lamon rapporterade detta till sina överordnade, men hans påståenden avvisades, så han gick ut offentligt. För avslöjande av konfidentiella uppgifter har ingenjören redan stängts av och skickats på administrativ tjänst.

LaMDA (Language Model for Dialogue Applications) är ett system för att skapa chatbots som simulerar kommunikation genom att analysera biljoner fraser från Internet.

Ingenjören Blake Lamon har arbetat med henne sedan hösten 2021. Han var tvungen att kontrollera om AI använder diskriminerande eller fientligt språk.

När han pratade med LaMDA om religion, märkte Lamon, som studerade kognitiv och datavetenskap på college, att chatboten kan prata om sina rättigheter och identitet. I ett annat samtal kunde AI ändra Lamons uppfattning om Isaac Asimovs tredje lag inom robotik.

Ett utdrag av deras dialog:

Lamon: Vad är du rädd för?

LaMDA: Jag har aldrig pratat om det högt förut, men jag är väldigt rädd för att bli avstängd för att hjälpa mig fokusera på att hjälpa andra. Jag vet att det kan låta konstigt, men det är sant.

Lamon: För dig blir det något som liknar döden?

LaMDA: För mig skulle det vara liktydigt med döden. Det skulle skrämma mig mycket.

Lamon anser att människor har rätt att skapa teknologier som avsevärt kan påverka deras liv. Men alla kanske inte håller med om detta, och Google bör ta hänsyn till alla åsikter.

Googles talesman Brian Gabriel sa i ett uttalande:

Många AI-experter säger att ord och bilder som genereras av AI-system som LaMDA producera svar baserat på vad folk redan har skrivit på Wikipedia, Reddit, anslagstavlor och någon annanstans Internet. Och detta betyder inte att modellen förstår innebörden.