Оскорбление ботов как метод их верификации на адекватность

Популярный сервис микроблогов Twitter намерен опробовать в действии довольно неординарную практику. Речь идет о целенаправленном оскорблении чат-ботов с целью верификации их адекватности. Необходимость подобного шага, прежде всего, обусловлена тем, что некоторые чат-боты не совсем корректно ведут себя в социальной сети. Среди прочего, речь идет о серии довольно странных инцидентов, произошедших с участием чат-бота Microsoft, который позволял себе высказывания, касающиеся сексизма и расизма.

Пытаясь обезопасить своих пользователей от нападок заангажированных ботов, специалисты социальной сети решили опробовать на практике специальный алгоритм, способный верифицировать все без исключения аккаунты, в основе которых лежит искусственный интеллект.

Стоит отметить, что указанный алгоритм предусматривает возможность верификации адекватности чат-ботов с помощью целого арсенала разнообразных инструментов. Использование того или иного инструмента будет зависеть прямо от того, насколько конкретный чат-бот успел проявить себя на просторах социальной сети. Примечательно, что наиболее жесткому прессингу подвергнутся именно доброжелательно настроенные боты. Разработчики планируют устроить им своеобразные стресс-тесты, отправляя им не совсем лицеприятные текстовые послания откровенно оскорбительного содержания. Среди прочего, речь идет о разного рода расистских выпадах, нецензурных высказываниях в отношении феминисток и т. п. Таким образом, основной упор будет сделан на проверку именно благонадежных ботов.

Большинство опрошенных экспертов считают новый алгоритм Twitter довольно радикальным способом борьбы с чат-ботами. Вместе с тем, по словам разработчиков социальной сети, другого более действенного метода проверки адекватности чат-ботов на сегодняшний момент попросту не существует. Интересно, что будут делать разработчики Twitter, если созданный их усилиями алгоритм даст сбой и перепутает чат-бота, основанного на искусственном интеллекте, с обычным пользователем сети, нанеся ему серию незаслуженных оскорблений.