Оскорбление ботов как метод их верификации на адекватность

Популярный сервис микроблогов Twitter намерен опробовать в действии довольно неординарную практику. Речь идет о целенаправленном оскорблении чат-ботов с целью верификации их адекватности. Необходимость подобного шага, прежде всего, обусловлена тем, что некоторые чат-боты не совсем корректно ведут себя в социальной сети. Среди прочего, речь идет о серии довольно странных инцидентов, произошедших с участием чат-бота Microsoft, который позволял себе высказывания, касающиеся сексизма и расизма.
Пытаясь обезопасить своих пользователей от нападок заангажированных ботов, специалисты социальной сети решили опробовать на практике специальный алгоритм, способный верифицировать все без исключения аккаунты, в основе которых лежит искусственный интеллект.
Стоит отметить, что указанный алгоритм предусматривает возможность верификации адекватности чат-ботов с помощью целого арсенала разнообразных инструментов. Использование того или иного инструмента будет зависеть прямо от того, насколько конкретный чат-бот успел проявить себя на просторах социальной сети. Примечательно, что наиболее жесткому прессингу подвергнутся именно доброжелательно настроенные боты. Разработчики планируют устроить им своеобразные стресс-тесты, отправляя им не совсем лицеприятные текстовые послания откровенно оскорбительного содержания. Среди прочего, речь идет о разного рода расистских выпадах, нецензурных высказываниях в отношении феминисток и т. п. Таким образом, основной упор будет сделан на проверку именно благонадежных ботов.
Большинство опрошенных экспертов считают новый алгоритм Twitter довольно радикальным способом борьбы с чат-ботами. Вместе с тем, по словам разработчиков социальной сети, другого более действенного метода проверки адекватности чат-ботов на сегодняшний момент попросту не существует. Интересно, что будут делать разработчики Twitter, если созданный их усилиями алгоритм даст сбой и перепутает чат-бота, основанного на искусственном интеллекте, с обычным пользователем сети, нанеся ему серию незаслуженных оскорблений.
Рекомендуем по теме:

В отношении GeekBrains подан второй по счету коллективный иск за отказ вернуть деньги за курсы

По количеству загрузок VPN Россия уступает только Индии

Квартальная выручка Meta Platforms сократилась впервые с момента основания

Юристы Маска подали встречное исковое заявление против Twitter

Сервис Proxy-solutions добавил услугу "Мобильные прокси"

Банк «Держава» ПАО вывел на биржу первую публичную краудлендинговую платформу

Частные инвестиции становятся основным драйвером роста малого бизнеса

Обзор сервисов для организация двухфакторной аутентификации (2FA) пользователей звонком для сайтов бронирования отелей. 2025 год.

BetBoom Team краткая история успеха