Подробное исследование о плюсах и минусах использования систем ИИ в научном познании публикуют «Научные переводы». При всех положительных моментах, связанных с возможностями ИИ, обрабатывать и анализировать огромные массивы информации, есть ряд нерешенных вопросов — воспроизводимость эксперимента, к примеру.
Денис Беляев, ведущий инженер ИТ-компании Proscom говорит, что проблематика обусловлена множеством факторов: архитектурой сети, данными для обучения, множеством тонких настроек. Если в научной статье эти детали не описаны, то другим исследователям будет очень трудно проверить результаты. А ведь такая независимая проверка — основа научного метода.
— Я считаю, что решение лежит в изменении принципа построения нейронных сетей. Например, недавно примененная сеть Колмогорова-Арнольда позволяет отследить цепочку «размышлений» при генерации ответа, — уверен эксперт.
По словам эксперта, еще одна проблема — чрезмерное доверие людей к ИИ. Многие воспринимают нейросети как «черный ящик», который всегда выдает истину. Но на самом деле ИИ может ошибаться, причем так, что человеку будет сложно это заметить.
— Решение — в прозрачности и четких стандартах ее описания. Хорошо бы выкладывать в открытый доступ данные, код и параметры моделей. Кроме того, необходимо развивать культуру ответственного использования ИИ, чтобы ученые понимали ограничения и потенциальные ловушки этой технологии. ИИ должен восприниматься как инструмент в руках человека, а не как замена человеческого интеллекта, — считает эксперт.
Эксперт отмечает, что особенно это важно в вопросах интерпретации результатов и принятия решений. Но при всех сложностях контроля за ИИ в науке отказаться от этой технологии невозможно.
— Поэтому, на мой взгляд, научному сообществу нужно как можно скорее договориться об этических и методологических принципах использования ИИ, — добавил эксперт.
