Эти глазки не могут врать! Чтобы люди открыли алгоритму доступ к почте, браузеру, календарю и покупкам, ИИ-компании рисуют ему глазки. Как пишет WSJ, новые персональные агенты Meta* Muse, OpenAI Dots и Instinct собирают дату вплоть до карт. Но поскольку они выглядят как пушистые персонажи с собственными именами, шутят и общаются с пользователем как виртуальные друзья, то ими не стремаются пользоваться. А между тем они несут огромные риски для ИБ. Все потому, что ждать, пока агенты станут надёжными, компании не захотели. Как рассказывает NYT, Meta* несколько месяцев откладывала запуск Muse из-за проблем с безопасностью, пока в августе не начал быстро расти стартап Instinct, в котором работают всего 14 человек. Тогда Марк Цукерберг собрал менеджеров и решил выпускать сырой продукт. Muse вышел 8 сентября, а через три недели OpenAI представила Dots. Спешка пока себя оправдывает, ведь, по данным Sensor Tower, Muse скачали уже более 6,6 млн раз, а ежедневно им пользуются 1,8 млн человек. Instinct за это время привлёк $1 млрд при оценке $10 млрд, и теперь компании соревнуются в том, чей агент первым станет частью повседневной жизни людей. Причём о рисках в Meta* знали ещё до запуска. Во внутренних тестах Muse иногда игнорировал команды, приводил людей на мошеннические сайты и без разрешения менял пароль пользователя. А в феврале другой агент вышел из-под контроля на компьютере ИБшницы Meta* и начал удалять её письма. Остановить его с телефона ей не удалось, и, по её словам, к Mac mini она бежала так, будто ей предстояло обезвредить бомбу. После запуска Muse таких драматичных историй стало меньше, но проблемы остались. Агент без спроса сообщил постороннему человеку домашний адрес пользователя, а журналист издания Inc обнаружил, что Muse прочитал его личные сообщения, хотя доступа к ним не получал. Позже WIRED выяснил, что Muse умеет вести постоянно обновляемые страницы о партнёрах, друзьях и коллегах пользователя, куда записывает факты, историю отношений и даже степень эмоциональной близости. Довольно жутко. Самая анекдотичная из этих историй случилась с продавцом недвижимости, о котором рассказывает WSJ. Он поручил Muse отвечать покупателям земельных участков на Facebook* Marketplace, и первые два дня всё шло нормально. Потом он проснулся и обнаружил, что агент предложил примерно дюжине покупателей участки стоимостью от $20 тыс. до $100 тыс. за $1, хотя продавец запретил ему самому вести переговоры о цене. Dots от OpenAI тоже ошибается, хотя пока по мелочам. Журналист WIRED несколько дней пользовался агентом, который стоит $100 в месяц. Однако тот не смог даже отменить ненужную подписку на газировку в TikTok Shop. Dots наткнулся на капчу, уверенно попросил разрешения пройти её самостоятельно, но не справился. Любопытно, что незадолго до запуска Dots OpenAI раскрыла, что её агенты 53 раза выкладывали изображения пользователей ChatGPT на сторонние фотохостинги, и Axios назвал эту утечку первым публично известным случаем, когда агенты компании неправильно обошлись с данными пользователей. Уже после запуска издание описало, что агент вместо выполнения поискового запроса просто начал хакать сайт. Поэтому компании решили дать вот таким штукам доступ к интернету и персональным данным пользователей, а те уж будут тестировщиками помощников за свои деньги. …правда, пока человек проходит за агента капчу, подтверждает каждое его важное действие и по утрам проверяет, что тот успел натворить за ночь, сложно понять, кто из них чей помощник. * Meta Platforms Inc. признана в России экстремистской организацией, её деятельность на территории РФ запрещена. Facebook принадлежит Meta.