Предстоит пройти долгий путь, прежде чем автоматизированные системы возьмут на себя задачи, выполняемые людьми: исследование

Системам искусственного интеллекта (ИИ) предстоит пройти долгий путь, прежде чем они смогут взять на себя задачи и работу, традиционно выполняемые людьми, говорят ученые, которые указали на серьезные ограничения компьютерных сетей глубокого обучения.

Исследователи из Калифорнийского университета в Лос-Анджелесе (UCLA) в США провели различные эксперименты, которые показали, что нейронные сети глубокого обучения легко обмануть.

"У машин есть серьезные ограничения, которые нам необходимо понять", - сказал Филип Келлман, профессор Калифорнийского университета и старший автор исследования, опубликованного в журнале PLOS Computational Biology.

По словам Келлмана, машинное зрение имеет недостатки.

В первом эксперименте исследователи показывали цветные изображения животных и предметов одной из лучших сетей глубокого обучения под названием VGG-19.

Однако изображения были изменены. Например, поверхность мяча для гольфа была изображена на чайнике; полоски зебры были помещены на верблюда, а узор сине-красного носка "аргайл" был показан на слоне.

VGG-19 ранжировал свои лучшие варианты и выбрал правильный предмет в качестве первого выбора только для пяти из 40 объектов.

"Мы можем легко обмануть эти искусственные системы. Их механизмы обучения гораздо менее сложны, чем человеческий разум", - говорит Хонгджинг Лу, профессор Калифорнийского университета.

Во втором эксперименте психологи показывали изображения стеклянных статуэток VGG-19 и второй сети глубокого обучения, названной AlexNet. VGG-19 показала лучшие результаты во всех экспериментах, в которых тестировались обе сети.

Обе сети были обучены распознавать объекты, используя базу данных изображений ImageNet.

Однако обе сети показали низкие результаты, не сумев идентифицировать стеклянные статуэтки. Ни VGG-19, ни AlexNet не определили статуэтки в качестве первого варианта.

Большинство первых ответов озадачило исследователей, например, VGG-19 выбрала "веб-сайт" вместо "гусь" и "консервный нож" вместо "белый медведь". В среднем AlexNet поставил правильный ответ на 328 место из 1 000 вариантов.

"Машины совершают ошибки, сильно отличающиеся от человеческих", - сказал Лу.

В третьем эксперименте исследователи показали 40 рисунков, нарисованных черным цветом, с изображениями белого цвета, как VGG-19, так и AlexNet. Цель этих первых трех экспериментов состояла в том, чтобы выяснить, определяют ли устройства объекты по их форме.

Сети снова плохо справились с определением таких предметов, как бабочка, самолет и банан.

Исследователи пришли к выводу, что в то время как человек видит объект целиком, сети искусственного интеллекта идентифицируют фрагменты объекта.

"Это исследование показывает, что эти системы получают правильный ответ на изображениях, на которых они были обучены, не учитывая форму", - сказал Келлман.

"Для человека общая форма является основной для распознавания объектов, а идентификация изображений по общей форме, похоже, вообще не предусмотрена в этих системах глубокого обучения", - сказал он.

Существуют десятки машин глубокого обучения, и исследователи считают, что их выводы широко применимы к этим устройствам.