De snelle ontwikkeling van AI-systemen in de afgelopen tien jaar markeert een opmerkelijke verschuiving in technologische mogelijkheden en maatschappelijke impact. De vooruitgang van AI wordt gedreven door drie kernfactoren: rekenkracht, data en algoritmes.
Will Henshall laat aan de hand van 4 grafieken in TIME deze ontwikkelingen goed zien:
Rekenkracht: De evolutie van AI van de Perceptron Mark I in 1957 naar GPT-4 van OpenAI toont een astronomische toename in de benodigde rekenoperaties, van ongeveer 700.000 naar een geschatte 21 septiljoen. Deze toename in rekenkracht maakt het mogelijk voor AI-systemen om uitgebreidere datasets te verwerken en complexere relaties tussen variabelen te modelleren. Ondanks de voortdurende afname in de kosten van rekenkracht door Moore’s wet, zijn de financiële investeringen in het trainen van AI-modellen, zoals GPT-4 dat meer dan $100 miljoen kostte, aanzienlijk.
Data: AI-modellen bouwen op de relaties tussen variabelen in trainingsdata om hun prestaties te verbeteren. Het verschil in de hoeveelheid trainingsdata tussen vroege modellen zoals de Perceptron Mark I en moderne systemen zoals LlaMa van Meta, die getraind werd op ongeveer een miljard datapunten, illustreert de data-explosie. Deze groei in beschikbare data verbetert de nauwkeurigheid en het inzicht van AI-systemen aanzienlijk.
Algoritmes: Algoritmes spelen een cruciale rol in hoe efficiënt AI-systemen rekenkracht en data benutten. De voortdurende verbetering van algoritmes draagt bij aan het versnellen van AI-vooruitgang, waarbij elke negen maanden algoritmische verbeteringen het equivalent van een verdubbeling van de rekenbudgetten opleveren.
De verwachting is dat AI zich in een versneld tempo zal blijven ontwikkelen, gedreven door verdere toenames in rekenkracht, de beschikbaarheid van data, en algoritmische innovaties. We zullen het zien in 2024!
