С 10 по 13 декабря прошло официальное открытие **NeurIPS 2024**, одной из ведущих мировых конференций по искусственному интеллекту. Это мероприятие стало площадкой для презентации новых достижений и моделей, которые задают направление развития ИИ. Крупные игроки индустрии приурочили к конференции релизы своих новых моделей: - **OpenAI** представили **Sora**. - **Google** выпустили **Gemini 2**. - **Meta** презентовали **Llama 3.3** и платформу **Meta Motivo**. На конференции также состоялось вручение премии **Test of Time Paper Awards 2024**, которая присуждается за работы, выдержавшие испытание временем (10 лет) и оказавшие значительное влияние на развитие ИИ. Примечательно, что в этом году сделали исключение — награду получили сразу две работы. Ранее всегда выбирали ровно одну работу: 1. **Generative Adversarial Nets (GANs)** - Ян Гудфеллоу и соавторы. Эта статья в **2014 году** открыла новую эпоху генеративных моделей. GAN-ы легли в основу таких технологий, как фотореалистичные изображения, дипфейки и медицинские симуляции. 2. **Sequence to Sequence Learning with Neural Networks** - Илья Суцкевер, Ориоль Винялс и Куок Ван Ле. Эта работа **2014 года** стала одной из самых влиятельных в области искусственного интеллекта и цитировалась более 27 тысяч раз. Она стала основой технологий, которые сегодня позволяют автоматически переводить текст и распознавать речь, а её идеи вдохновили на развитие более сложных технологий, которые сегодня лежат в основе большинства современных языковых моделей, таких как GPT. На конференции выступил один из лауреатов Test of Time Awards — Илья Суцкевер, сооснователь и главный научный сотрудник OpenAI. Он обратился к своему знаковому докладу 2014 года и поделился размышлениями о будущем искусственного интеллекта. Эта статья стала отправной точкой для эры масштабирования (Scaling) в ИИ. Принцип масштабирования был прост: чем больше данных и вычислительных ресурсов используется, тем точнее и интеллектуальнее становятся модели. Суцкевер отметил, что эпоха предварительного обучения (pre-training) постепенно подходит к завершению из-за исчерпания доступных данных для обучения моделей, говоря, что "интернет закончился". Это ограничение еще называют "стеной данных" (data wall). Суцкевер провёл параллель между развитием ИИ и эволюцией мозга у млекопитающих, сославшись на исследование "The Evolutions of Large Brain Size in Mammals: The ‘Over-700-Gram Club Quartet'". В этой работе показано, как мозг эволюционно рос вместе с телом животного. Увеличивался ресурс мозга, а вместе с ним и требования по его поддержанию. Общее увеличение массы тела позволило природе преодолеть ограничения на размер мозга. Однако внутренние ограничения, связанные с метаболизмом, остановливают дальнейший рост из-за эффективности использования энергии мозгом. Эти ограничения имеют сходство с задачами, стоящими перед разработчиками AGI (искусственного общего интеллекта): необходимость оптимизировать ресурсы и алгоритмы для повышения эффективности. Суцкевер подчеркнул, что современное развитие ИИ во многом зависит от совершенствования алгоритмов и идей, прогресс требует качественно новых подходов. В завершение он сказал, что в ближайшее время начнется эра сверхинтеллекта — разумных систем, которые способны анализировать, рассуждать, понимать и даже осознавать себя. Ссылка на речь: [Илья Суцкевер на NeurIPS 2024]([https://x.com/vincentweisser/status/1867719020444889118](https://x.com/vincentweisser/status/1867719020444889118)).