Математики усомнились во всемогуществе искусственного интеллекта

Израильские математики доказали, что искусственный интеллект далеко не всегда способен находить закономерности в наборах данных или давать однозначные ответы на любые вопросы. Их выводы были представлены в журнале Nature Machine Intelligence.

Современные системы машинного обучения и искусственного интеллекта работают на базе очень простого принципа. Они постепенно учатся "видеть" определенные закономерности и отличать правильные ответы от неправильных, используя обширные базы данных, подготовленные человеком.

Изначально подобный подход применялся в основном для создания систем распознавания изображений. Впоследствии выяснилось, что его можно применять практически для всего, начиная с "творческих" ИИ, способных самостоятельно рисовать и создавать музыку, и заканчивая машиной AlphaZero, способной учиться без помощи людей и играть в несколько настольных игр, зная лишь их правила.

Подобные успехи, как отмечает Йехудайофф, заставили программистов, философов и математиков задуматься о том, есть ли границы у подобного метода решения проблем и сможет ли предельно "общий" искусственный интеллект найти закономерность в любом произвольном наборе данных и дать ответ на все возможные вопросы.

Израильские математики попытались выяснить, так ли это на самом деле, анализируя самые общие версии различных математических проблем, которые сегодня активно решаются при помощи систем машинного обучения.

Их внимание привлекли те версии искусственного интеллекта, которые пытаются предсказать максимальные значения, используя неполные наборы данных. К примеру, подобные машины пытаются угадать предпочтения посетителей того или иного сайта и подбирают такую рекламу, которая бы была интересной для большинства из них.

Представив эту проблему в виде набора из нескольких больших и малых множеств, Йехудайофф и его коллеги обнаружили, что она похожа по своему описанию на знаменитую теорему Гёделя. Еще в 1940 году известный австрийский математик Курт Гёдель выяснил, что любая формальная система, в том числе сама математика, является неполной или противоречивой.

Иными словами, это означает, что для систем машинного обучения, как и для "простых" математиков, существуют проблемы, утверждения и вопросы, которые нельзя ни решить, ни доказать, ни опровергнуть, не выходя за их пределы.

В данном случае, к примеру, невозможно предсказать, можно ли "натренировать" искусственный интеллект идеально подбирать рекламу, используя знания о предпочтениях лишь небольшого произвольного числа посетителей. В зависимости от того, какие посетители портала попадут в эту выборку, данная проблема одновременно является как решаемой, так и нерешаемой.

Как подчеркивают ученые, с практической точки зрения это открытие никак не влияет на то, насколько активно будет развиваться искусственный разум в будущем и как хорошо он будет решать практические задачи. С другой стороны, наличие подобных ограничений говорит о том, что создать универсальную "мыслящую" машину, способную решать любые задачи, будет намного сложнее, чем считают ученые сегодня.