Искусственный интеллект достиг физических границ — что дальше?
Исследователь Тим Деттмерс констатирует, что современные процессоры не обеспечивают достаточной мощности для искусственного общего интеллекта, а масштабирование вычислительных возможностей может вскоре столкнуться с физическими ограничениями. Улучшения в архитектуре систем позволят на время компенсировать эти ограничения, но к 2026–2027 годам и этот путь исчерпается.
По данным The Register, исследователь Тим Деттмерс (Tim Dettmers) приходит к выводу, что текущие процессоры не обладают достаточной мощностью для реализации искусственного общего интеллекта (ИОИ), а возможности масштабирования могут вскоре исчерпаться.
В своём блоге Деттмерс, работающий в Allen Institute и являющийся профессором Карнеги-Меллонского университета, утверждает, что дискуссии вокруг ИОИ и суперинтеллекта не только излишне оптимистичны, но и содержат серьёзные логические пробелы. Он определяет ИОИ как разум, способный выполнять любые задачи, которые могут выполнять люди, включая экономически значимые физические действия.
Проблема заключается в том, что большинство обсуждений ИОИ носят философский характер. Однако, в конечном счёте, ИИ должен работать на каком-то физическом оборудовании. По мнению Деттмерса, ускорение работы GPU уже не обеспечивает необходимой прогрессии. Он прогнозирует, что возможности масштабирования исчерпаются в течение одного-двух лет, после чего дальнейшие улучшения станут физически невозможными.
Это связано с тем, что инфраструктура ИИ перестала развиваться достаточно быстро, чтобы удовлетворить растущие требования к вычислительным ресурсам. Улучшения в производительности GPU, по его мнению, уже не так значительны, как это может казаться. Например, переход от архитектуры Nvidia Ampere к Hopper обеспечил утроение производительности в формате BF16, но потребовал увеличения энергопотребления на 1,7 раза. В переходе от Hopper к Blackwell производительность выросла на 2,5 раза, но при этом потребовалось вдвое больше площади кристалла и такое же увеличение энергопотребления.
Деттмерс отмечает, что, несмотря на близость к физическим ограничениям отдельных GPU, определённое время можно продлить за счёт улучшения архитектуры систем. Например, Nvidia GB200 NVL72 позволяет разместить 72 ускорителя в одном стойке, что обеспечило 30-кратное увеличение производительности при выводе и 4-кратное — при обучении по сравнению с Hopper.
Однако такие улучшения тоже имеют временные рамки. Деттмерс ожидает, что оптимизация на уровне стойки может дать несколько лет преимущества, но и она исчерпается к 2026–2027 годам.
Вместе с тем, он не считает инвестиции в инфраструктуру ИИ необоснованными. Рост спроса на вывод (inference) оправдывает такие вложения. При этом он подчёркивает, что, если улучшения моделей не будут следовать, оборудование может стать бременем.
Важно отметить, что, по мнению Деттмерса, многие лаборатории США всё ещё сосредоточены на гонке за первенством в создании ИОИ, игнорируя более практичные направления. Он утверждает, что для ИОИ, способного выполнять все человеческие задачи, потребуется выход за пределы цифровой среды — в физический мир. Это связано с необходимостью применения робототехники, где также возникают проблемы масштабирования.
Коллекционирование данных в физическом мире, по его словам, слишком дорогостоящее и сложное. В этой связи он отмечает, что Китай делает ставку на применение уже существующих ИИ-технологий, что является более реалистичным и долгосрочным подходом. Вывод один: ценность ИИ заключается в его полезности и способности повышать производительность.
Интересно: Как долго можно будет компенсировать физические ограничения оборудования за счёт оптимизации архитектуры систем, и как это повлияет на стратегии инвестиций в ИИ-инфраструктуру?
Когда ИИ сталкивается с законами физики
С каждым годом об искусственном общем интеллекте (ИОИ) говорят всё громче. Компании, исследователи, инвесторы — все видят в этом будущее. Но за кулисами реальность выглядит куда более сложной. Тим Деттмерс, исследователь из Allen Institute и профессор Карнеги-Меллонского университета, предлагает взглянуть на развитие ИИ с точки зрения физических ограничений — и это меняет картину.
Технологии сталкиваются с законами природы. Современные процессоры, особенно графические (GPU), достигли пределов, за которые не могут перейти без радикальных изменений. Увеличение производительности требует всё большего энергопотребления и физического пространства. Например, переход от Nvidia Hopper к Blackwell дал 2,5-кратное увеличение производительности, но потребовал удвоения энергопотребления и площади кристалла. Такие цифры говорят о том, что технический прогресс в этой области замедляется.
Важный нюанс: Инвестиции в ИИ-инфраструктуру становятся всё более чувствительными к физическим ограничениям. Даже самые передовые архитектуры, как Nvidia GB200 NVL72, могут обеспечить лишь временный рост производительности, но не решат фундаментальные проблемы масштабируемости.
Деттмерс прогнозирует, что к 2026–2027 годам даже оптимизация на уровне стойки (rack-level optimization) перестанет приносить значимые улучшения. Это значит, что дальнейший рост вычислительной мощности станет либо очень дорогим, либо вообще невозможным. А значит, и разработка ИОИ, как её сейчас понимают, может столкнуться с фундаментальными барьерами.
Практические альтернативы и стратегии
В условиях такого фона становится очевидным, что Китай делает ставку на более устойчивую стратегию. Вместо гонки за суперинтеллектом, китайские исследовательские лаборатории и компании сосредоточены на применении уже существующих ИИ-моделей в реальных задачах — от медицины до логистики. Это не только снижает зависимость от ресурсоёмких вычислений, но и делает технологии доступнее для массового использования [!].
В России и других странах, где инвестиции в ИИ пока не настолько масштабны, такой подход может стать ключевым. Вместо того, чтобы тратить ресурсы на создание всё более мощных моделей, имеет смысл перенаправить усилия на внедрение уже имеющихся решений в конкретные отрасли. Это не только снизит энергозатраты, но и ускорит практическое применение ИИ.
Робототехника: следующий уровень сложности
Деттмерс также подчёркивает, что ИОИ, способный выполнять любые задачи, включая физические, требует выхода за рамки цифровой среды. Это означает, что робототехника станет следующим этапом. Однако здесь тоже возникают проблемы: обучение роботов требует сбора огромного количества данных в реальном мире, что дорого и сложно. В отличие от цифровой среды, где данные легко генерируются, физический мир не поддаётся такому контролю.
Важный нюанс: Если ИОИ действительно будет создан, он не будет работать только в облаках. Его нужно будет интегрировать в реальный мир, где ограничения физики и стоимость сбора данных могут стать серьёзным барьером.
Рост интереса к антропоморфным роботам подтверждает данные о финансировании: компания Figure привлекла более $1 млрд в третьем раунде, что повысило её оценку до $39 млрд. Инвесторы включили Brookfield Asset Management, NVIDIA, Intel Capital и другие. Средства направили на расширение производства, развитие AI-платформы и сбор данных для улучшения роботов [!].
Рынок и инфраструктура: как дальше?
В то же время, спрос на ИИ-инфраструктуру стимулирует рост рынка полупроводников. К 2028–2029 годам объем рынка может превысить триллион долларов. Ожидается, что к 2030 году выручка от чипов для обработки данных составит более половины мирового оборота полупроводниковой отрасли. Рост связан с увеличением потребности в специализированных чипах, памяти и серверах, необходимых для масштабных вычислений [!].
Однако дефицит компонентов уже ощущается. Спрос на ИИ-центры обработки данных стал ключевым фактором, вызвавшим дефицит чипов памяти. Рост цен на оперативную память и накопители NAND достиг многократных уровней, что привело к увеличению стоимости готовой техники — от компьютеров до смартфонов. Компании, включая Samsung, Micron и SK Hynix, не справляются с объемом заказов, а производители ПК и мобильных устройств уже объявили о повышении цен [!].
Что дальше?
Сейчас большинство дискуссий вокруг ИОИ носят философский характер. Но Деттмерс напоминает: ИИ — это не только идея. Это технология, которая работает на физическом оборудовании. И если оборудование не будет развиваться, идея останется абстрактной.
Для российского бизнеса это означает, что нужно смотреть не только на масштаб моделей, но и на их практическую применимость. Вместо гонки за ИОИ имеет смысл сосредоточиться на внедрении ИИ в конкретные отрасли, где он уже может дать результат. Это снизит зависимость от дорогостоящей инфраструктуры и сделает технологии более устойчивыми.
Важный вывод: В ближайшие годы ключевым фактором станет не только мощность процессоров, но и способность использовать ИИ эффективно, без избыточных затрат. И как раз в этом и заключается реальная ценность технологий — в их способности решать реальные задачи.
Источник: The Register
