Как браузеры помогут защититься от фейковых новостей, распознавая тексты, написанные роботами

Компьютерные технологии развиваются уже не в арифметической, а в геометрической прогрессии. Небывалого успеха достигли алгоритмы искусственного интеллекта, которые реализованы в виде нейросетей и внедрены в различные сферы нашей жизни. Безусловно, это отличные нововведения. Но есть и такие, которые вызывают смешанные чувства как у обычных людей, так и у профессионалов.

Как используются нейросети для написания текстов

Одним из видов «опасных» нейросетей стал алгоритм GPT-2, модель которого была разработана компанией OpenAI. Такой ИИ умеет придумывать тексты статей, новостей и даже стихов и небольших рассказов, основываясь на одной фразе или предложении. А воспользоваться рабочей версией алгоритма может любой желающий, просто воспользовавшись онлайн-сервисом Talk to Transformer, открытым для публичного доступа разработчиками-энтузиастами.

Нейронная сеть представляет собой элемент искусственного интеллекта, реализованного в виде компьютерной программы, функционирующей по принципу живой, биологической нервной системы, которая умеет особым образом работать с данными, структурировать их, что также дает возможность обучаться и развиваться, в определенных рамках, конечно же. Так и алгоритм GPT-2 анализирует введенные данные, берет информацию с нескольких тысяч сайтов в сети Интернет, структурирует полученную информацию и генерирует новый текст. Преимуществом алгоритма является и то, что он умеет определять и использовать в написании текстов изначальный стиль, а это делает получившийся текст более «живым».

Нейросеть в наше время опасна тем, что ее стали использовать боты для генерации поддельных или фейковых новостей и статей. И если сейчас такой текст еще можно распознать человеку, то поисковые системы уже с этим не справляются. В случае, если алгоритм будет усовершенствован, спустя какое-то время даже люди перестанут различать, где правда, а где ложь, что грозит тотальной дезинформацией.

Расширение GPTrue or False

Компания OpenAI разработала также и алгоритм поиска фейковых текстов для защиты пользователей Сети от ложной информации. Кроме того, было разработано дополнение «GPTrue or False», которое можно установить в браузерах Firefox и Google Chrome.

Используя алгоритм GTP-2 и анализируя текст, а также работая с огромным количеством дополнительных данных, алгоритм поиска от OpenAI в дополнении умеет определять вероятность того, был ли текст написан ботом или живым человеком.

Ограничения по использованию расширения

К сожалению, алгоритм пока что работает не очень эффективно, поэтому даже обычные тексты могут быть распознаны как фейковые. Вторым недостатком является отсутствие поддержки языков: алгоритм работает только с английскими текстами. Третий недостаток в том, что алгоритм поиска не был внедрен в широко используемое программное обеспечение, в мобильные браузеры и другие программы для серфинга в сети, например, браузеров Edge и Opera, для мессенджеров и почтовых программ.

Специалисты компании OpenAI постоянно развивают и дорабатывают алгоритм поиска, а разработчики заботятся над эффективностью работы своего дополнения к браузерам. Стоит верить, что эффективность поиска фейков будет эффективнее работы алгоритма GPT-2, и Интернет не заполонят бессмысленные статьи и бездушные боты.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *