OpenAI varnade för upptäckten av AI som kan hota mänskligheten

Dagen före exil OpenAI vd Sam Altman, skrev flera av företagets personalforskare till styrelsen brev varning för upptäckten av kraftfull artificiell intelligens, som de säger "kan hota för mänskligheten." Om detta med hänvisning till våra egna källor skriver Reuters.

Det var detta brev som nämndes som en av faktorerna i den långa listan av klagomål från styrelsen som ledde till Altmans avsked. Reuters kunde inte personligen prata med författarna eller få kommentarer från OpenAI. Men efter en sådan begäran meddelade företaget, i ett internt meddelande till anställda, att det fanns ett visst projekt som heter Q* (uttalas Q-Star).

Vissa OpenAI-anställda tror att Q* kan bli ett genombrott i den sk allmän artificiell intelligens (AGI). OpenAI karakteriserar det som ett autonomt system som överträffar människor på de flesta ekonomiskt värdefulla uppgifter.

Än så länge kan Q* bara utföra matematiska problem på grundnivå, enligt en källa. skolor, men ett framgångsrikt genomförande av sådana test ger forskarna stor optimism om utsikterna för dess utveckling.

Den största skillnaden mellan sådan AI är att den kan sätta upp mål, dela upp komplexa problem i små, arbeta över ett brett spektrum av problem och hitta lösningar med hänsyn till sammanhang från olika domäner. Enkelt uttryckt kan sådan intelligens i teorin ersätta en högt kvalificerad specialist med kunskap, färdigheter och lång erfarenhet.

Forskare tror att matematik är framkanten av generativ AI. Numera är han bra på att skriva och översätta, statistiskt förutsäga nästa ord, och svaren på samma fråga kan variera mycket. Men att erövra matematik (där det bara finns ett korrekt svar) innebär att AI kommer att ha bredare resonemangsförmåga som liknar mänsklig intelligens. Detta kan appliceras till exempel på ny vetenskaplig forskning, menar experter.

I sitt brev till styrelsen noterade forskarna kraften hos AI och de potentiella farorna. De noterade också arbetet från en speciell grupp av "artificiell intelligensforskare", vars existens bekräftades av många källor. Teamet studerar hur man kan optimera befintliga AI-modeller för att förbättra sina resonemang och i slutändan utföra vetenskapligt arbete med dem, sa en av personerna.

Altman ledde arbetet med att göra ChatGPT till en av de snabbast växande mjukvaruapplikationerna inom historia och attraherade de investeringar och datorresurser från Microsoft som var nödvändiga för att få en sådan AGI. Och strax före sin avskedande, vid toppmötet för världsledare i San Francisco, tillkännagav han några "allvarliga prestationer som är precis runt hörnet."

En dag senare sparkade styrelsen Altman.

Kanske kommer alla dessa beslut och händelser en dag att ligga till grund för en bok, en hel film eller till och med en lärobok i historia.