Слишком умный. Почему Илон Маск против новой iOS и надо ли ее бояться нам

Новая версия операционной системы для устройств компании Apple получила встроенные технологии искусственного интеллекта на основе разработок OpenAI. Это вызвало резко негативную реакцию самого известного в мире технологического бизнесмена Илона Маска. Наши коллеги из «Фонтанки» выяснили, есть ли из-за чего злиться и бояться ли простым пользователям айфонов.

Илон Маск пригрозил запретить своим сотрудникам пользоваться техникой Apple, если она использует технологии искусственного интеллекта, анонсированные в новых версиях операционных систем для планшетов, компьютеров и телефонов. Эксперты отрасли сразу заподозрили бизнесмена в ревности. Он и сам пытался состыковать свои продукты с OpenAI, но не срослось.

— Маск не успел забраться на волну хайпа GenAI, и теперь у него подгорает всякий раз, когда на этом рынке случается какой-то громкий релиз, — иронизирует Юрий Брюквин, глава «Рустелекома». — Если GenAI — это «пузырь», который рано или поздно лопнет с оглушительным треском, тогда и появится Илон на белом коне, во фраке с блестками и скажет что-то типа: «А я ведь всем вам говорил!»

Если отбросить шутки в сторону, здравое зерно в позиции Маска всё же есть.

— Он весьма не то что скептически, но осторожно относится к искусственному интеллекту. И на самом деле зачастую были ситуации, когда компании, даже тот же Apple, запрещали сотрудникам пользоваться сторонними какими-то приложениями для общения, потому что они им просто не доверяли, — говорит Денис Кусков, руководитель Telecom Daily. — Здесь, мне кажется, то же самое. Получается, что Илон Маск считает, что какие-то вещи в новой версии iOS могут спровоцировать утечку и пострадает его бизнес. Наверное, в таком контексте следует воспринимать его заявление.

При этом необходимо подчеркнуть, что проблема не в самом по себе искусственном интеллекте. В том или ином виде он давно присутствует в операционных системах и Apple, и Android, и Windows. Те же распознавание лиц, работа с изображениями, да даже голосовые помощники — это всё технологии искусственного интеллекта на разных стадиях его технологического развития.

А вот что теперь в телефонах будет по умолчанию подключен ChatGPT, а Siri будет использовать полученные пользовательские данные для обучения на всех айфонах в мире — это как раз и вызывает вопросы.

— Речь конкретно идет про так называемый генеративный ИИ, то есть про тот, который сам создает текст / изображения / видео, — объясняет Юрий Брюквин. — Принцип его работы — в постоянном получении новой информации, передаче в общий центр анализа, обработки и выработки решений для всё новых и новых задач. При таком подходе робот не разделяет информацию на секретную, чувствительную, вредную и пр., а просто использует всё что есть. А затем дает возможность всем обращающимся к нему клиентам пользоваться результатами такого анализа.

Таким образом, если вы, к примеру, загрузите каким-то образом — голосом, изображением или файлом с текстом — секретный рецепт пирожков своей бабушки, он строго формально немедленно станет общедоступным и может быть выдан пользователю на другом конце света, который попросит ChatGPT рассказать ему рецепт пирожков.

Это очень примитивное описание того, как работает генеративный искусственный интеллект. Принцип его обучения заключается в бесконечном переборе решений и поиске оптимального. В какой момент чувствительная для вас информация может показаться роботу полезной, и когда он ее обнародует и в каком виде — прогнозировать невозможно. Так что, в принципе, опасения перед ChatGPT не бессмысленны на 100%, однако в чем конкретно заключается опасность, можно лишь делать предположения.

— Опасения по поводу искусственного интеллекта скорее актуальны именно для бизнеса, чем для физлиц. Для обучения генеративного ИИ используются в том числе пользовательские запросы. Соответственно, если ты попросишь GenAI проанализировать или описать какие-то конфиденциальные корпоративные данные, то они могут попасть в базу данных и затем использоваться, в том числе для ответов на запросы других пользователей, — объясняет Юрий Брюквин.

— Чтобы возмутиться и начать протестовать и что-то бойкотировать, людям много не надо. Они сами себя накрутят и без искусственного интеллекта. И когда они где-то услышат, что AI анализирует их фотографии, где и при каких условиях они были сделаны и т. п., у людей начинает формироваться тревожное состояние, даже если они вообще никому не интересны ни в Купертино, ни где-то еще, — иронизирует Денис Кусков. — На мой взгляд, было бы логично, если бы Apple дал возможность пользователю выбрать, использовать искусственный интеллект для работы или не использовать, а не ставить его по умолчанию. Ведь у каждого свое личное мнение. Другой вопрос, кто даст гарантию, что если человек поставит галочку «нет», то его данные действительно не будут использоваться в каких-то подобных целях?

В целом же использование технологий искусственного интеллекта в разработке операционных систем имеет перспективы, уверены эксперты. Так, российские компании и учреждения уже массово начинают переходить на российские ОС, а в их развитии горизонты пока просто необозримы.

— Чисто теоретически это могут быть какие-то внутренние (отраслевые или специализированные) базы знаний, чтобы люди на местах могли простым запросом к GenAI выяснить какие-то ГОСТы, СНИПы, регламенты и проч., касающиеся их рабочего задания. Например, проектируют какой-нибудь ящик для ВПК — какая нормативка есть для него? И — вуаля! — не надо копаться в документах, — фантазирует Юрий Брюквин.

— Я бы прикручивал всё это, но с осторожностью. Понятно, возможности искусственного интеллекта обширны. То количество информации, которую он может обработать, не обработает ни один человек. С точки зрения получения информации для таких сетей это можно использовать, — рассуждает Денис Кусков.

При этом конкретно технология ChatGPT, которая появляется сейчас в айфонах, — это всё же очень далеко и от серьезного промышленного шпионажа, и от потенциального вреда, который может быть нанесен чувствительной корпоративной сети.

— Это маркетинг; один из способов отстройки от конкурентов. Например, Microsoft уже встроил ChatGPT в облачную платформу, и это позволило его облачному бизнесу расти быстрее конкурентов. В случае с Apple то же самое. Встроив GenAI в платформу, они тем самым подчеркивают свою эксклюзивность и инновационность, — уверен Юрий Брюквин.

— Мне кажется, что уже столько информации о нас вылезло в Сеть, а государство и так обладает почти всеми нашими данными, так что бояться еще и ChatGPT просто нет смысла, — резюмирует Денис Кусков.