Slack выступает за обучение ИИ на пользовательских данных | Информационный век

Slack обновил свои принципы конфиденциальности после того, как ссылки на искусственный интеллект смутили некоторых пользователей. Изображение: Шаттерсток

Популярная коммуникационная платформа Slack защитила использование данных клиентов для разработки некоторых моделей искусственного интеллекта (ИИ) и машинного обучения (ML) после протестов со стороны некоторых пользователей.

Проблема возникла из-за принципов конфиденциальности искусственного интеллекта чат-приложения, которые до этой недели предусматривали, что его системы «анализируют данные клиентов (такие как сообщения, контент, файлы)» и данные об использовании для разработки набора моделей искусственного интеллекта компании.

В принципах также говорится, что организации должны отправить электронное письмо Slack, если они хотят отказаться от использования данных своих клиентов в этих формах.

Пользователи Slack, некоторые из которых платят за сервис, принадлежащий Salesforce, на прошлой неделе выразили обеспокоенность по поводу политики в социальных сетях, при этом некоторые не понимают, используются ли их сообщения для обучения искусственного интеллекта, или не уверены, почему их не просят сделать выбор. что. в.

«Почему от этих вещей отказываются? В них нужно разобраться. Мы буквально обсуждаем переход на Teams в моей компании (1500 сотрудников)», — написал один человек на форуме.

«Когда мы отправим наше уведомление, мы отправим уведомление о том, что мы не хотим, чтобы какие-либо наши данные использовались для обучения машинному обучению со стороны Slack или кого-либо еще», — сказал другой.

Слабенький с тех пор Обновить свои принципы конфиденциальности Компания пояснила, что не использует данные клиентов для обучения каких-либо своих генеративных систем искусственного интеллекта, которые представляют собой сложные платформы, которые могут обобщать разговоры и проводить исследования на основе искусственного интеллекта.

Тем не менее, компания заявляет, что использует данные о клиентах для обучения негенеративных моделей таким функциям, как предложения смайлов, базовый поиск, рекомендации и автозаполнение текста.

«Мы не создаем и не обучаем эти модели таким образом, чтобы они могли изучать, запоминать или воспроизводить любые данные о клиентах», — заявили в компании.

«Хотя клиенты могут отказаться, эти модели делают продукт более удобным для пользователей без риска раскрытия их данных».

Slack заявляет, что ее дополнительный продукт Slack AI использует сторонние модели большого языка (LLM), которые не были разработаны с использованием данных ее клиентов.

«Данные клиента принадлежат клиенту»

В нынешней ситуации В социальной сети XВ Slack заявили, что согласны с отзывами клиентов о том, что они «могли бы лучше объяснить» свой подход к использованию данных о клиентах для обучения некоторых из своих систем.

«Мы твердо убеждены, что данные клиентов принадлежат клиенту», — заявили в компании.

«Мы не разрабатываем LLM или другие генеративные модели с использованием данных клиентов. Данные клиентов не используются для обучения сторонних моделей LLM.

Принципы конфиденциальности искусственного интеллекта Slack также гласят, что данные клиентов «не будут просачиваться в рабочие пространства», и компания заявляет, что у нее есть технические средства контроля, которые предотвращают доступ к основному содержимому этих данных.

Slack утверждает, что организации, которые откажутся от обучения ИИ, по-прежнему получат выгоду от генеративных моделей ИИ/МО.

в Сообщение блогаКомпания признает, что, хотя клиенты, которые откажутся от подписки, не увидят больших изменений, «чем больше клиентов откажутся от подписки, тем хуже в целом будут работать модели такого типа».

Slack — не первая организация, которая использует некоторые данные своих клиентов для обучения систем искусственного интеллекта и машинного обучения, не требуя предварительной регистрации пользователей.

Пользователи популярной системы генеративного искусственного интеллекта OpenAI ChatGPT должны отказаться, если они не хотят, чтобы их данные использовались для улучшения модели, даже если они используют ее бесплатно или без учетной записи OpenAI.