ПОСЛАНИЕ ПРЕЗИДЕНТА КАЗАХСТАНА С АКЦЕНТОМ НА УСКОРЕННУЮ ЦИФРОВИЗАЦИЮ И ВНЕДРЕНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА (ИИ) ЗАДАЕТ АМБИЦИОЗНЫЙ ВЕКТОР РАЗВИТИЯ НАЦИИ. ЭТОТ КУРС НЕСЕТ В СЕБЕ БОЛЬШОЙ ПОТЕНЦИАЛ ДЛЯ ТРАНСФОРМАЦИИ ЭКОНОМИКИ И ОБЩЕСТВА.
Всеобъемлющий переход на ИИ направлен на кардинальное повышение эффективности труда и отраслевых процессов. Отчасти мы уже видим, как внедрение ИИ привело к революции в оказании государственных услуг и принятии управленческих решений, автоматизации рутинных процессов, сократив бюрократию, повысив прозрачность и скорость работы госаппарата. Это улучшило качество жизни граждан. В экономике цифровизация и ИИ могут стать ключом к диверсификации, росту конкурентоспособности страны. Внедрение умных технологий в АПК, недропользование, логистику и другие отрасли позволит оптимизировать расходы и увеличить производительность. Создав благоприятную среду для технологических компаний и стимулы для IT-стартапов Казахстан можно сделать региональным хабом для инноваций. А это, в свою очередь, привлечет иностранные инвестиции, создаст новые высококвалифицированные рабочие места. Большое поле деятельности для использования ИИ и цифровых платформ в медицине и образовании.
Вызовы на пути трансформации
Но у любой медали есть две стороны. Переход к цифровой повседневности – не просто техническое обновление. Это комплексный переворот, затрагивающий все сферы жизни, и как это бывает, с очевидными плюсами и серьезными минусами. Уже сегодня эксперты говорят о таких системных рисках, как угроза массовой безработицы, расслоения на рынке труда, особенно в секторе услуг, где занята значительная часть населения, которая рискует остаться не у дел, что потребует беспрецедентной программы переобучения и поддержки, чтобы избежать углубления цифрового неравенства, в том числе между жителями мегаполисов и сельской местности из-за отсутствия должной интернет-инфраструктуры. Есть вызовы в области безопасности и суверенитета. Если цифровизация пройдет через всю ткань жизнедеятельности государства и граждан, то без основательной адаптации это может создать лакомую цель для кибератак. Как в случае с кибер атакой на «Аэрофлот» РФ в ночь на 28 июля, в результате которой хакеры уничтожили свыше семи тысяч серверов и рабочих станций, базы данных и внутренние системы, парализовав работу авиакомпании. Все данные были затерты особым инновационным алгоритмом. Один только этот случай показывает реальность угроз, которые могут иметь катастрофические последствия – от утечки персональных данных, госсекретов до сбоев в критической инфраструктуре (энергетика, транспорт).
Помимо этого возникает вопрос о цифровом суверенитете: впадая в сильную зависимость от зарубежных технологий, платформ и решений ИИ страна может поставить себя в уязвимое положение.
Не остановиться, а подготовиться
В связи с этим разработка всеобщей кибербезопасности потребует сильного законодательства о защите данных, соблюдении этических норм использования ИИ. То есть нужен вдумчивый и сбалансированный подход, чтобы технологический прогресс имел четкое правовое регулирование, позволив стране совершить цифровой прыжок, принятый и понятый ее гражданами. Конечно, мы понимаем, что цифровизация и ИИ – это заранее предначертанный путь, несущий в себе невиданный рост эффективности, прорывы во всех областях жизни человека, в решении глобальных проблем и делающий повседневную жизнь более комфортной. Это путь, с которого уже не свернуть. Но мы должны понимать, что за ослепительным и привлекательным фасадом технологических «ништяков» и плюсов могут скрываться фундаментальные угрозы, способные подорвать сами основы человеческого бытия. Мы с детства читали страшилки фантастов о восстании машин. Здесь же речь уже идет о восстании искусственного разума и его возможной службе деструктивным целям, которая начинается с нарушения приватности, автономии, превращения человека в объект тотального наблюдения и манипуляций. Противник силен, потому что невидим. И в этом его опасность. У него нет сердца – только алгоритмы. Это особенно актуально уже сегодня, когда цифровизация сопровождает нас на каждом шагу, от онлайн-покупок до перемещений по городу, попаданий в объективы видеокамер, в базу данных собственников технологий и алгоритмов. Кстати, не случайно внедрение камер распознавания лиц вызвало в нашем обществе споры об этическом аспекте, обеспокоенность тотальной слежкой и нарушениями права на частную жизнь. Ведь оставленные нами цифровые следы находятся в колоссальных массивах данных (Big Data). Личность человека становится прозрачной, а право на частную жизнь — пережитком прошлого. Время ИИ и в целом интернета особенно болезненно сказывается на психологии нового поколения, оставляя симптомы девальвации человеческого в человеке. Полагаясь на алгоритмы и чаты, молодежь постепенно атрофирует собственные навыки – критическое мышление, интуицию, способность к самостоятельному выбору, чистоту человеческих эмоций, морально-нравственных дилемм, утрачивая культурный и этический контекст. Происходит выхолащивание человеческой сущности, творческих начал, права на ошибки, которые являются источником развития. Как и любая машина, ИИ может дать сбой, привести к катастрофическим ошибкам в любой сфере – юриспруденции, медицине и управлении и др. Сейчас много говорят о роли ИИ в судебной системе. Но и здесь, на мой взгляд, смещение ответственности с человека на непрозрачный алгоритм размывает саму концепцию правосудия, в котором требуется то, чем ИИ не наделен – опыт, мудрость, сострадание, профессионализм, интуиция. Этого у ИИ нет. «Черный ящик» непредсказуем. Даже сами создатели сложных нейросетей не всегда могут объяснить, как именно алгоритм пришел к тому или иному решению, а это ставит под вопрос принципы ответственности и справедливости. Но при этом главная опасность цифровизации и ИИ все же не столько в их собственной природе, сколько в том, как человечество решит использовать эти мощнейшие инструменты – во благо или для разрушения. Поэтому, чтобы избежать непредсказуемого будущего, необходимо уже сегодня развивать и закладывать в Цифровой кодекс правовые и этические правила, обеспечивающие прозрачность алгоритмов, защиту цифровых прав человека, инвестируя ИИ в образование, медицину и другие ресурсы, в эмоциональный интеллект. Конечной целью неизбежного технологического прогресса должна быть не логика алгоритмов, а человеческие ценности, чтобы возможные теневые стороны ИИ и цифровизации не служили питательной средой для афер и зла. Для опасения от последствий цифровой революции уже сегодня есть поводы. Помимо беспрецедентного удобства и эффективности, она породила цифровое мошенничество, став мощнейшим инструментом в руках злоумышленников. С этим столкнулся почти каждый житель страны – это изощренные схемы обмана, финансовые пирамиды, замаскированные под инновационные стартапы, сложные криптомахинации, бросившие вызов традиционным представлениям о регулировании и доверии. В них прослеживается, что технологии, призванные защищать, используются для атак. Мошенники, имея лишь образец голоса и визуальный портрет человека, используют его в своих целях. Примером тому являются многочисленные видео с бывшим руководителем АО «Казатомпром», который призывает делать вложения в акции компании, обещая мгновенные дивиденды. И многие ведутся на это. Моя родственница перечислила 70 тысяч тенге, поддавшись на эти фейковые призывы, и сама была тому не рада. Подобные алгоритмы, используемые в псевдорекламных кампаниях, нацеливают фишинговые сообщения на самых уязвимых пользователей – пожилых людей или тех, кто несведущ или переживает финансовые трудности. И несмотря на опровержения самого героя этих роликов на личной странице в ФБ, непонятно почему видео с YouTube не удаляется, а настойчиво выходит на глобальную аудиторию, оставаясь при этом практически анонимным. «Новое дыхание» обрели финансовые пирамиды, некогда строившиеся на «сарафанном радио» и собраниях в сомнительных офисах. В цифровой среде они существуют на высокотехнологичных инвестиционных платформах, в криптопроектах или экосистемах, используя модные выражения типа «блокчейн», «нейросети», «токенизация». Социальные сети и мессенджеры служат идеальной средой для их вирусного распространения с обещаниями астрономических доходов благодаря «успешным инвесторам». Это для непосвященных создает иллюзию их легитимности и доступности. Так, эпицентром махинаций становится неизведанная на сегодня криптовалютная сфера, сохраняя анонимность транзакций, сложность технологии для понимания рядовым пользователем интернета. Классические схемы обмана маскируются под высокодоходные крипто-депозиты. Такая бесконтрольная децентрализация финансов открыла новые возможности для хакерских атак и элементарного отъема огромных сумм. Отследить и вернуть эти средства практически невозможно. В чем корень проблемы? Надо признать, что законодательство и правоохранительная система не поспевают за стремительным развитием технологий. Злоумышленники подключили к своим схемам уже многочисленных дропперов. Только спустя время их признали такими же ответственными за преступления, как самих мошенников. Такая вот юрисдикционная неразбериха, отсутствие международных нормативных актов и банальная нехватка экспертных знаний у регуляторов создают правовой вакуум, в котором и процветает цифровое мошенничество. Пока же мы оказались на распутье, и понимаем, что инструменты цифровизации и ИИ – это палка о двух концах. Их потенциал для созидания колоссален, но ровно так же велик он и для разрушения и обмана. Перед обществом стоит сложная задача: не отвернуться от технологического прогресса из-за страха ступить на минное поле мошенничества, а целенаправленно обучаться цифровой грамотности, чтобы неосторожный клик не привел к финансовым потерям. Бесспорно инициатива, предложенная в Послании, является своевременной и необходимой для будущего Казахстана. Цифровизация и ИИ – это уже не выбор, а мировой тренд. Плюсы этого перехода, связанные с экономическим ростом, эффективностью и удобством слишком значительны, чтобы их игнорировать. Успех этого пути зависит не от скорости внедрения технологий, как таковых, а от способности государства и общества создать безопасную цифровую среду, уметь управлять рисками, адаптировав к пользованию ИИ население, чтобы он помогал и облегчал нашу жизнь.
Ерден ОМАР
