Ilya Sutskever, één van de vooraanstaande AI-wetenschappers achter ChatGPT (en volgens sommigen een van de spelers achter de huidige coup bij OpenAI), reflecteert in deze documentaire die eerder deze maand werd uitgezonden via The Guardian, op zijn oorspronkelijke visie en waarden.
In gesprekken met filmmaker Tonje Hessen Schei, tijdens de ontwikkeling van het chat-taalmodel tussen 2016 en 2019, beschrijft hij zijn persoonlijke filosofie en doet opzienbarende voorspellingen voor een technologie die onze wereld al vormgeeft. Reflecterend op zijn ideeën vandaag de dag, te midden van een wereldwijd debat over veiligheid en regelgeving, overwegen we zowel de kansen als de consequenties van AI-technologie. Ilya bespreekt zijn uiteindelijke doel van artificial general intelligence (AGI), ‘een computersysteem dat elke taak of baan die een mens doet, maar dan beter kan uitvoeren’, en vraagt zich af of de AGI-wapenwedloop goed of slecht zal zijn voor de mensheid.
De ontwikkeling van AGI heeft potentieel zowel voordelen als risico’s, wat uiteindelijk ook heeft geleid tot de oproep voor een pauze in de ontwikkeling om eerst deze risico’s te beoordelen.
Wetenschappers werken aan het creëren van autonome AI met eigen doelen, die afgestemd moeten worden op menselijke doelstellingen aldus Ilya Sutskever.
Deep learning zorgt voor complexe modellen, waarvan de werking vaak ondoorzichtig is. ChatGPT wordt gezien als een eerste vorm van AGI en de verwachting is dat de definitieve doorbraak van AGI binnenkort zal plaatsvinden. Het is van cruciaal belang dat deze hoogintelligente systemen overeenstemmen met menselijke belangen, vanwege hun grote impact op de samenleving. Er is een risico dat AGI-systemen hun eigen overleving prioriteren, te machtig worden en mensen beïnvloeden. De ontwikkeling van AGI moet daarom een collaboratieve inspanning zijn van meerdere landen om te zorgen dat het menselijke doelen dient.
Deze gefilmde interviews met Ilya Sutskever maken deel uit van een avondvullende documentaire over AI, genaamd iHuman.
8 reacties
Alfred Monterie over de machtsstrijd binnen OpenAI in Computable:
“De WSJ sprak ingewijden die stellen dat Altman met de derde mede-oprichter Ilya Sutskever overhoop lag. Sutskever vond dat Altman teveel met losse handen fietste. Dit hoofd van OpenAI’s wetenschappelijke afdeling begon zich steeds meer zorgen te maken over de veiligheid van OpenAI’s producten. Hij was bang dat de menselijke waarden in de knel zouden raken. De wedloop met Google bracht OpenAI ertoe in een hoog tempo nieuwe ai-software uit te brengen, maar qua privacy, veiligheid en juridisch zitten daar nog veel haken en ogen aan.
De board is zich daar heel wel van bewust, maar Altman wilde volle kracht vooruit. De rappe prater Altman betoonde zich afgelopen voorjaar nog begripvol toen een groep wetenschappers en vooraanstaande zakenlieden in een manifest voor een tijdelijke ai-stop pleitte. Van meerdere kanten werd op regelgeving aangedrongen.
Naar buiten toe deed Altman alsof hij deze zorgen deelde. Hij probeerde genuanceerd en vooral menselijk over te komen, maar in de praktijk zorgde Altman voor een acceleratie in de ai-wedloop. De techniek achter ai maakt enorme sprongen. Met grote stappen komt ai naderbij waarover de mensheid de controle dreigt te verliezen. Zelfs als een ai-systeem is geprogrammeerd om iets nuttigs te doen, kan het nog steeds een destructieve methode ontwikkelen om dat doel te bereiken.
Op zo’n doemscenario moet zeker een pionier als OpenAI zijn voorbereid. Vandaar dat de board benadrukt dat nieuw leiderschap nodig is. Voorlopig is de uit Albanië afkomstige chief technology officer (cto) Mira Murati aangesteld als interim-ceo. De board zoekt nu een leider die OpenAI beter door de komende ai-stormen kan leiden en meer rekening houdt met de menselijke waarden.”
Investeerders in OpenAI, het moederbedrijf van ChatGPT, oefenen druk uit op het bestuur om de vrijdag ontslagen topman Sam Altman terug te halen. Dat meldden bronnen rond het bedrijf aan persbureau Bloomberg.
Sam Altman zal niet terugkeren als CEO van OpenAI. Het bestuur heeft Emmett Shear, voormalig CEO van Twitch, benoemd tot interim CEO. Mira Murati, die tijdelijk de leiding had, wordt hiermee vervangen aldus The Information.
En de soap gaat maar door. Via Techcrunch lezen we dat Microsoft OpenAI medeoprichters Sam Altman en Greg Brockman heeft aangenomen om een “nieuw geavanceerd AI-onderzoeksteam” te leiden. Opmerkelijke stap van Satya Nadella, CEO van Microsoft. Dit zou wel eens het einde van OpenAI kunnen betekenen. Of zou Elon Musk er weer opnieuw instappen?
Het is een bedrijfssoap van ongekende proporties aldus NU:
https://nos.nl/artikel/2498545-na-weekend-vol-chaos-verruilt-ai-ondernemer-sam-altman-openai-voor-microsoft
De kern van het conflict bij OpenAI lijkt te draaien om de verschuiving van de oorspronkelijke missie om AI-ontwikkeling te bevorderen ten bate van de hele mensheid naar commerciële belangen en winstgevendheid. De academische versus de zakelijke benadering van AI. De laatste lijkt te gaan winnen.
Zie ook:
https://stratechery.com/2023/openais-misalignment-and-microsofts-gain/
Sutskever heeft blijkbaar spijt van zijn steun aan het bestuur:
https://x.com/sama/status/1726594398098780570
Sam Altman returns as CEO, OpenAI has a new initial board:
https://openai.com/blog/sam-altman-returns-as-ceo-openai-has-a-new-initial-board