Sam Altman is terug bij OpenAI

Abraham54

Administrator
Forumleiding
Lid geworden
2 aug 2016
Berichten
34.977
Leeftijd
70
OS
Windows 11 Professional
AV
Microsoft Defender
FW
Windows Firewall

Werd het ontslag van Sam Altman door het bestuur van OpenAI over de doorbraak van 'Q-Star',​

gezien als een bedreiging voor de mensheid?​

altman.png


Het mysterie rond het korte ontslag van OpenAI CEO Sam Altman afgelopen vrijdag, die sindsdien weer aangesteld is,
draait mogelijk rond een rapport van Reuters dat suggereert dat Altmans ontslag te wijten was aan een doorbraak in
kunstmatige algemene intelligentie (AGI), die de mensheid zou kunnen bedreigen.


In de dagen voordat Altman in ballingschap werd gestuurd, schreven verschillende stafonderzoekers een brief aan het
bestuur over een belangrijke doorbraak - Q* genaamd en uitgesproken als Q-Star - die het AI-model in staat stelde om
"mensen te overtreffen in de meeste economisch waardevolle taken".

Bronnen bij Reuters zeiden dat de AI-mijlpaal een van de belangrijke factoren was die leidden tot het abrupte ontslag
van Altman afgelopen vrijdag. Een andere zorg was het commercialiseren van het geavanceerde AI-model zonder de s
ociaaleconomische gevolgen te begrijpen.

De bron zei dat het model wiskundige problemen kon oplossen, maar alleen "op het niveau van basisschoolleerlingen
en dat het slagen in dergelijke tests onderzoekers erg optimistisch maakte over het toekomstige succes van Q*".

Voordat Altman werd ontslagen, had hij het misschien over Q* tijdens de Asia-Pacific Economic Cooperation in San Francisco:

"Vier keer nu in de geschiedenis van OpenAI - de meest recente keer was in de afgelopen paar weken -
heb ik in de kamer mogen zijn.
ben ik in de kamer geweest, waar we de sluier van onwetendheid terugduwen
en de grens van ontdekking

vooruit zetten," zei Altman.



Er is een intern conflict bij OpenAI aan het licht gekomen dat geworteld is in een ideologische strijd tussen voorstanders
van snelle AI-ontwikkeling en voorstanders van een langzamere, meer verantwoordelijke aanpak van de ontwikkeling.

Reuters sprak met een woordvoerder van OpenAI die het bestaan van het project Q* en de brief aan het bestuur voor het
ontslag van Altman bevestigde.

Waarom is Q* dan een doorbraak?

Nou, zoals techblog 9to5Mac uitlegt:

Op dit moment, als je ChatGPT vraagt om een wiskundig probleem op te lossen, zal het nog steeds
gebruik maken van zijn voorspellende-tekst-op-steroïden aanpak van het samenstellen van een antwoord
door gebruik te maken van een enorme tekst database en te beslissen op een woord-voor-woord basis hoe
men zou antwoorden. Dat betekent dat het antwoord wel of niet goed kan zijn, maar in beide gevallen
geen wiskundige vaardigheden heeft.
OpenAI lijkt een doorbraak te hebben gemaakt op dit gebied, door een AI-model in staat te stellen om
echt wiskundige problemen op te lossen, die het nog niet eerder heeft gezien.
Deze ontwikkeling zou bekend staan als Q*. Helaas heeft het team geen naamgevingsmodel gebruikt dat
slim genoeg is om iets te vermijden dat lijkt op een verwijzing naar een voetnoot, dus ik ga de Q-Star versie gebruiken.
Er wordt gezegd dat Q-Stars huidige wiskundige vaardigheid die van een basisschoolleerling is, maar er
wordt verwacht dat deze vaardigheid snel zal verbeteren.

Deze technologische ontwikkeling zal een van de eerste tekenen kunnen zijn, dat AGI, een vorm van AI die de mens kan
overtreffen, op het punt staat gecommercialiseerd te worden.

AGI heeft de potentie om mensen op elk gebied te overtreffen, inclusief creativiteit, probleemoplossing, besluitvorming,
taalbegrip, enzovoort. Een recent rapport van Goldman schetst hoe de Westerse wereld 300 miljoen ontslagen tegemoet
kan zien als gevolg van AI.

De doorbraak van Q* en de snelle vooruitgang van deze technologie, maken nu duidelijk waarom de raad van bestuur
Altman abrupt ontsloeg vanwege zijn haast, om deze technologie te ontwikkelen zonder de impact van het model op de
bedreiging van de mensheid te bestuderen.

Altman zei onlangs: "Ik denk dat dit absoluut de grootste update voor mensen tot nu toe is. En misschien wel de grootste
die we zullen hebben, want vanaf nu accepteren mensen dat krachtige AI gaat gebeuren en zullen er stapsgewijze updates
komen... er was het jaar dat de eerste iPhone uitkwam en daarna was er elke update."



Ondertussen noemde Musk, die heeft gewaarschuwd voor AI die de mensheid bedreigt, het rapport van Reuters "Extreem verontrustend".



Deze hilarische tweet toevoegend:



Stel dat AGI er is (of bijna is). De komende jaren zullen wild zijn.


Bron
 
Dit bericht is inmiddels 15 maal gelezen.
Hebben de lezers begrepen, dat Q-Star het nieuwe brein kan worden?
 
Dacht het wel ja.
 
Terug
Bovenaan Onderaan