S'il est un enseignement que l'on peut tirer des 10 dernières années de Deep Learning, c'est qu'en IA, la taille, ça compte. Si des innovations algorithmiques sont bien sûr venues contribuer aux progrès des IA, leur amélioration est d'abord le fait des passages à l'échelle successifs : plus de neurones, plus de puissance de calcul, plus de données.
Cette loi empirique s'est si bien confirmée qu'elle est devenue un sujet d'étude à part entière : les "scaling laws" ou "lois d'échelle".
Comment fonctionnent les scaling laws ?
Vont-elles se maintenir pour les prochaines générations d'IA ?
A quoi s'attendre s'il on extrapole les courbes ?
Aura-t-on une AGI (Intelligence Artificielle Générale) en 2027 ?
Quels obstacles sont attendus et comment seront-ils surmontés ?
Des clusters de calcul à 1GW, 10GW, 100GW : où est la limite ?
Quelles sont les conséquences technologiques et géopolitiques des scaling laws ?
Une conférence de @Flavien Chervet. Pour plus de contenus sur l'avenir technologique et géopolitique de l'IA, inscrivez-vous ici : https://flavienchervet.fr/livres
Conférence donnée dans le cadre du meetup IA.
Rejoignez le meetup à Paris : https://www.meetup.com/iaparis
Rejoignez le meetup à Lyon : https://meetup.com/ialyon
Merci à l'agence Pixelis pour leur accueil.
Cette loi empirique s'est si bien confirmée qu'elle est devenue un sujet d'étude à part entière : les "scaling laws" ou "lois d'échelle".
Comment fonctionnent les scaling laws ?
Vont-elles se maintenir pour les prochaines générations d'IA ?
A quoi s'attendre s'il on extrapole les courbes ?
Aura-t-on une AGI (Intelligence Artificielle Générale) en 2027 ?
Quels obstacles sont attendus et comment seront-ils surmontés ?
Des clusters de calcul à 1GW, 10GW, 100GW : où est la limite ?
Quelles sont les conséquences technologiques et géopolitiques des scaling laws ?
Une conférence de @Flavien Chervet. Pour plus de contenus sur l'avenir technologique et géopolitique de l'IA, inscrivez-vous ici : https://flavienchervet.fr/livres
Conférence donnée dans le cadre du meetup IA.
Rejoignez le meetup à Paris : https://www.meetup.com/iaparis
Rejoignez le meetup à Lyon : https://meetup.com/ialyon
Merci à l'agence Pixelis pour leur accueil.
- Catégories
- Intelligence Artificielle
Commentaires