Будущее машинного обучения: новый прорывной метод

Исследователи из Нью-Йоркского университета и Университета Помпеу Фабра (Испания) представили новаторскую методику, позволяющую повысить способность искусственных нейронных сетей к композиционным обобщениям. Этот прорыв, получивший название Meta-learning for Compositionality (MLC), способен произвести революцию в области искусственного интеллекта и машинного обучения.

Под композиционным обобщением понимается способность понимать и применять концепции в различных контекстах. Люди без труда понимают смысл таких фраз, как "проскочить два раза по комнате" или "проскочить с поднятыми руками". Однако машины испытывают трудности с таким типом мышления.

В течение десятилетий философы и ученые-когнитивисты считали, что искусственные нейронные сети не способны делать композиционные обобщения. Однако последние достижения в области технологий и исследований опровергли это мнение. В частности, MLC продемонстрировала многообещающие результаты, превосходящие существующие подходы и конкурирующие с человеческой производительностью.

Сила практики

MLC ориентирован на обучение нейронных сетей, таких как ChatGPT, улучшению навыков композиционного обобщения путем практики. Постоянно обновляя способности сети в течение ряда эпизодов, MLC позволяет системе лучше понимать и применять новые концепции. Такой подход отличается от предыдущих методов, которые опирались на стандартное обучение или специализированные архитектуры.

Бренден Лейк, доцент Центра науки о данных и факультета психологии Нью-Йоркского университета, подчеркивает значимость этого прорыва. "В течение 35 лет исследователи спорили о том, могут ли нейронные сети достичь систематического обобщения, подобного человеческому", - говорит он. "Мы впервые показали, что общая нейронная сеть может имитировать или превосходить систематическое обобщение человека".

Процесс создания MLC

Для разработки MLC исследователи разработали новую процедуру обучения. В каждом эпизоде нейронная сеть получает новое слово и получает задание использовать его по составу. Например, ее можно попросить создать новые словосочетания со словом "прыжок", такие как "прыгнуть дважды" или "прыгнуть вокруг правой стороны дважды". В ходе серии эпизодов композиционные навыки сети совершенствуются по мере того, как она работает с различными словами и контекстами.

Тестирование методики

Чтобы подтвердить эффективность MLC, исследователи провели эксперименты с участием людей, которые повторяли задачи, выполняемые нейронной сетью. Результаты оказались впечатляющими и показали, что MLC может сравниться или превзойти человека в обобщении композиции.

Будущее искусственного интеллекта

Развитие MLC открывает новые возможности для искусственного интеллекта и машинного обучения. Благодаря способности делать композиционные обобщения машины смогут лучше понимать и интерпретировать сложный язык, что приведет к улучшению распознавания речи и возможностей обработки естественного языка.

Эксперты в этой области с воодушевлением отмечают потенциальное влияние MLC. "Этот прорыв имеет значительные последствия для различных отраслей промышленности", - говорит Марко Барони, научный сотрудник Каталонского института исследований и перспективных разработок. "Он открывает путь к развитию таких областей, как автоматический перевод, виртуальные помощники и т.д.".