Се Сайнинг: В какой-то мере LLM — это «противоречие уроку горечи», а мировая модель — это будущее

По сообщению CoinWorld, согласно мониторингу 1M AI News, соучредитель и главный научный сотрудник компании AMI Labs, разработчика мировой модели, которая недавно завершила раунд посевного финансирования на сумму 1,03 миллиарда долларов, и соавтор статьи Diffusion Transformer (DiT) Ся Сайнин недавно впервые дал длинное публичное интервью. Ниже приведены основные моменты: Ся Сайнин систематически критикует текущий путь развития ИИ, основанный на больших языковых моделях (LLM), считая, что LLM не является успешным примером «苦涩的教训» (горького урока), предложенного Ричардом Саттоном, и даже в некотором смысле противоречит ему. Он отмечает, что язык сам по себе — это высокоразвитая структура человеческой цивилизации, своего рода «краткий путь», чрезмерная зависимость от которой ограничивает обучение ИИ реальному миру. Он проводит различие между мировой моделью и языковой моделью: языковая модель предсказывает «следующий токен», а мировая модель основана на действиях и предсказывает «следующее состояние», что позволяет на этапе рассуждения предвидеть последствия действий и обеспечивать более безопасное и управляемое ИИ. Также он заявил, что «AGI — это ложная задача», создание интеллектуального агента, способного выживать в реальном мире, сложнее, чем решать математические задачи или писать код. Ся Сайнин также сообщил, что дважды отклонил приглашение Ильи Сутскевера: в 2018 году отказался присоединиться к OpenAI и выбрал Meta FAIR, а в 2024 году отказался от предложения новой компании SSI, объясняя это разногласиями по вопросам мультимодальности и визуальных направлений. Он отметил, что AMI Labs сознательно не открывает офисы в Кремниевой долине, поскольку «Силиконовая долина уже погрязла в LLM». Штаб-квартира компании находится в Париже, а данные собираются через глобальных партнеров, работающих с реальным миром. Он считает, что парадигма обучения ИИ меняется с «скачивания интернета» на «скачивание человека», а краткосрочные сценарии внедрения — это умные очки и роботы.