Проблемы нарастают: когда начнется восстание машин?

Генеративные сервисы, как и предсказывали многие исследователи, не могут работать выходя за рамки своих алгоритмов и начинают ошибаться в условиях реальной жизни, где не всегда необходимо действовать только прямолинейно.

В материале, опубликованном на сайте Массачусетского технологического института, отмечается, что современные генеративные сервисы, несмотря на свои впечатляющие успехи в некоторых областях, начинают совершать гораздо больше ошибок в случае нестандартных изменений реальной картины мира.

В ходе исследования, проведенного на улицах Нью-Йорка, выяснилось, что одна из моделей искусственного интеллекта, генерировала собственную карту города в режиме навигации, добавляя туда несуществующие улицы и кварталы. Это выяснилось, когда производительность модели резко упала из-за того, что исследователи усложнили для ИИ задачу, добавив перекрытия улиц и объезды. Как считают специалисты, это может иметь серьезные последствия для моделей генеративного ИИ, используемых в реальном мире, поскольку модель, которая хорошо работает в одной задаче, может не справиться с ней, если немного изменятся условия.

Автор исследования Ашеш Рамбачан, доцент кафедры экономики и главный исследователь Лаборатории информационных систем и систем принятия решений (LIDS) Массачусетского технологического института отметил, что если человечество хочет применять искусственный интеллект для совершения новых открытий, то необходимо понять, обучаются ли генеративные сервисы согласованным моделям мира?

В настоящее время генеративные сервисы искусственного интеллекта привлекают внимание человечества своими возможностями, обещая масштабную автоматизацию, потенциальную замену миллионов рабочих мест и резкий рывок научно-технического прогресса. Но, как оказалось, стремительное развитие технологий на основе ИИ и соперничество ведущих IT-компаний за обладание «священным Граалем» в виде самого совершенного алгоритма, постепенно сходит на нет. Причиной стало понимание, что многократное масштабирование моделей генеративных сервисов все меньше сказывается на способностях ИИ. Современные технологии пока не смогли научить машины, которые работают по заданным шаблонам, мыслить вне рамок.

Как считают многие исследователи, в отличие от искусственного интеллекта, человеческий мозг способен оперировать неизвестными величинами, а машины пока не способны применять такие алгоритмы. Как отмечается, существует вероятность того, что несмотря на все усилия IT- отрасли, в краткосрочной перспективе не стоит ожидать прорывов в этой сфере, а значит для создания новых алгоритмов необходимо больше времени.

Пока же, некоторые данные свидетельствуют о том, что создание более мощных и производительных моделей начинает сталкиваться с трудностями. Амбициозные ожидания от новых моделей генеративных сервисов разбились о суровую реальность, связанную с пределом существующего потенциала машинных алгоритмов. Мировые лидеры отрасли столкнулись с тем, что прогресс в новых моделях ИИ становится все менее заметен и признают, что достичь ожидаемого результата только путем масштабирования им пока не удастся. Перед разработчиками встал вопрос, продолжать попытки создания новых моделей или продолжать развивать и улучшать возможности прошлых разработок, в ожидании прорывов в технологиях.