О преимуществах искусственного интеллекта мы слышим, буквально, из каждого угла. СМИ и социальные сети последние несколько лет активно пишут, как нейросети проникли во все сферы жизни современного человека. Врачи используют их для постановки диагнозов, дизайнеры – для рисования рекламных макетов, журналисты – для написания новостей и других информационных текстов. Однако за большой пользой ИИ скрывается немало опасностей, которые могут навредить неопытному пользователю. Подробнее о них читателям «СТ» рассказала руководитель направления разработки AI-портала компании «Ростелеком» Софья Искандарова.
Рядом с нами десятилетиями
– Чем обусловлен нынешний «бум» нейросетей?
– На самом деле попытки создать машинный алгоритм, который бы определял причинно-следственные связи и умел предугадывать, что должно быть дальше, были с момента появления компьютерных технологий. Одним из первых удачных проектов такого типа стал виртуальный помощник Элиза (появился в США в 1966 году – прим. автора). Компьютерная программа во время общения с пользователем выступала в роли психолога и задавала простые вопросы. Например, если человек говорил, что ему грустно, она спрашивала: «А почему вам грустно?» В столь несложном линейном диалоге уже были зачатки искусственного интеллекта.
Потом в данную технологию долгое время никто не верил, но она все же получила развитие. Мало кто знает, но известный сегодня чат GPT и другие нейросети – внучки технологии «Т9». Помните, когда на старых телефонах вроде «Нокиа» и «Сименс» мы набирали текст, нам предлагали возможное следующее слово? По такому же принципу работают многие современные ИИ. Каждый раз при написании следующего фрагмента сообщения они прогоняют через себя весь контекст того, что уже было написано, и на основании этого дают человеку варианты. Специалисты Google пошли еще дальше. Свою технологию «трансформер» они обучали сначала маленькими по объему данными, потом переходили на тома Шекспира. По итогу она стала работать на достаточно большом массиве информации.
Такой бум технологий, и нейросетей в том числе, сегодня случился как раз-таки потому, что мы очень долго их копили и приумножали. К тому же с каждым днем прогресс идет быстрее. Много команд интегрируется в нашу сферу. Они генерируют свои идеи и реализуют их. Но, безусловно, долго такое продолжаться не сможет. В какой-то момент мы вновь придем к затишью.
Не ослабляй бдительность
– Какова главная опасность нейросетей?
– В первую очередь при работе с искусственным интеллектом, особенно генеративными текстовыми моделями, человек должен избегать дезинформации. Если мы спросим нейросеть о событии, которое еще не произошло или информации о котором нет в ее базе данных, она может выдать нам прекрасный ответ, но, грубо говоря, выдуманный, не соответствующий действительности. Нужно обязательно проверять правдивость информации, которую мы получаем от ИИ.
Я, например, использую нейросеть для придумывания новых идей, генерации рекламных материалов и слоганов, преодоления белого листа. Она помогает взглянуть на работу со стороны и указать на недостатки. Некоторые пользователи используют нейросеть для расшифровки заключений врача. В этом она тоже помогает, но все равно лучше также проконсультироваться у специалистов или же самостоятельно изучить больше фактов через интернет.
– Что еще следует помнить любителям ИИ-технологий?
– Не стоит забывать о возможной утечке персональных данных. Иногда, когда мы вводим некий запрос в нейросеть, то передаем и часть личной информации. Такие данные уходят и обрабатываются на чужих серверах. К примеру, я сейчас в течение получаса напишу Telegram-бот, к которому подключу любую нейросеть, и скину его вам для работы. Все ваши данные, прошедшие через чат-бот, будут доступны не только искусственному интеллекту, но и мне. Я могу их посмотреть, обработать, хранить и так далее.
Люди, которые используют нейросети, в особенности на бесплатных платформах, должны помнить, что абсолютно чужой человек будет иметь доступ к той информации, которую они отправляли. Надо быть очень аккуратными, взаимодействуя с ИИ-технологиями.
Ты ли здесь главный
– Многие люди, в том числе и известные разработчики в сфере IT, стали выступать против дальнейшего развития нейросетей. Они опасаются, что искусственный интеллект со временем поработит человека. Возможно ли такое?
– Интересный вопрос. Мы очень часто с командой шутим над этим, потому что иногда, действительно, нас спрашивают о таком варианте развития событий. На самом деле нет. Это не больше чем миф. Нейросеть – технология, которая обучена на большом массиве данных. Ее основная особенность заключается в том, что она не является инициатором диалога, не может задавать вопросы, получать на них ответы и, более того, самостоятельно обучаться без участия человека.
Некоторые люди говорят разработчикам: «Ну хорошо, создайте технологию, которая могла бы самостоятельно получать необходимую информацию в режиме реального времени». Но дело в том, что сейчас в мире не хватает «железа», то есть серверного обеспечения, вычислительных мощностей и так далее, для того чтобы разворачивать подобные модели искусственного интеллекта. Об этом говорят зарубежные разработчики, которые являются новаторами и локомотивами в нашей сфере. Все современные нейросети далеки от AGI (глобальный искусственный интеллект), который мог бы реально думать или чувствовать. Даже известный проект от OpenAI, который обладает большой инфраструктурой из вычислительных мощностей, не близок к такой технологии. Поэтому порабощения человечества в ближайшие годы мы точно не ждем.
