Google продвигает чат-бот с искусственным интеллектом Bard

Google продвигает чат-бот Bard, но предостерегает от его использования внутри компании.

Alphabet, материнская компания Google, находится в непростом положении: Активно рекламируя своего чат-бота с искусственным интеллектом Bard, она одновременно советует своим сотрудникам быть осторожными при использовании подобных инструментов.

Калифорнийская технологическая компания Alphabet предостерегла своих сотрудников от использования чат - ботов искусственного интеллекта, в том числе своего собственного чат - бота Bard. По всей видимости, они обеспокоены защитой конфиденциальных данных. Bard и аналогичные чат - боты, такие как ChatGPT, используют генеративный искусственный интеллект для ведения человекоподобных бесед.

Технология, лежащая в основе Bard и ChatGPT

Эти технологии позволяют чат - ботам взаимодействовать с пользователями и отвечать на различные вопросы. Благодаря своей способности говорить по-человечески, эти чат - боты набирают популярность как в деловом, так и в потребительском мире.

Проблемы безопасности и утечки данных

Обратная сторона: Поскольку чат - боты с искусственным интеллектом обучаются на больших объемах данных, существует риск того, что они могут воспроизвести данные, записанные во время обучения. Это означает, что потенциально секретная информация может быть передана ботом, если, например, к нему обратятся по аналогичной теме. Чтобы минимизировать этот риск, Alphabet прямо предупредил своих сотрудников не вводить конфиденциальные данные в чат-боты ИИ.

Работа с генерируемым кодом

Еще одна проблема связана с программированием кода, генерируемого чат - ботами. Компания Alphabet сообщила своим разработчикам, что Bard может делать нежелательные предложения по коду, и поэтому советует проявлять осторожность при его прямом использовании. Однако использование Bard не отвергается полностью, поскольку он считается "полезным инструментом для творчества" (O-Ton Google). Alphabet представляет Bard как инструмент, который будет использоваться в более чем 180 странах и на 40 языках.

Меры в отрасли

Alphabet - не единственная компания, озабоченная проблемой чат - ботов с искусственным интеллектом. Такие компании, как Samsung, Amazon и Deutsche Bank, также приняли меры безопасности, чтобы защитить свои данные от потенциальных утечек со стороны чат - ботов ИИ. Опрос, проведенный сетевым сайтом Fishbowl, показал, что около 43 процентов профессионалов в январе использовали такие инструменты ИИ, как ChatGPT, часто не ставя в известность свое руководство.

Защита данных в центре внимания

Помимо внутреннего предупреждения, Alphabet ведет переговоры с Ирландской комиссией по защите данных, чтобы обсудить запуск Bard в ЕС. Компания стремится к прозрачному решению проблем конфиденциальности и поэтому предоставила информацию о потенциальных последствиях чат бота для конфиденциальности. Однако запланированный запуск Bard в ЕС придется отложить. В том числе и потому, что ЕС считается особенно критичным по отношению к ИИ. Несколькими днями ранее Брюссель уже предлагал выделение отдельных частей Google. По мнению антимонопольных органов ЕС, компания занимает доминирующее положение на рынке цифровой рекламы.

Решения и альтернативы

Для решения проблем конфиденциальности некоторые компании, например, Cloudflare из Сан-Франциско, уже разрабатывают специальные программные решения. Cloudflare предлагает функцию, которая позволяет компаниям отмечать определенные данные и предотвращать их передачу третьим лицам. Кроме того, и Google, и Microsoft предлагают специализированные инструменты для ведения разговоров для бизнес-клиентов, которые предотвращают попадание внутренних данных компании в публичные модели ИИ.

Источник: news.com