Компания Apple обещала серьезное обновление Siri еще на WWDC 2024: более глубокий контекстный анализ, доступ к экрану и интеграцию с приложениями. Однако сроки сдвигаются — теперь, возможно, до iOS 19.
Изначально основными проблемами называли баги и сложность объединения двух версий Siri — старой и новой. Однако теперь появилась третья, более тревожная теория: Apple не удается обезопасить ИИ от атак, связанных с подменой инструкций (prompt injection).
Что с обещаниями Apple?
На WWDC 2024 Apple анонсировала три ключевые функции Siri:
✔ Контекстная осведомленность — доступ к персональной информации пользователя.
✔ Анализ экрана — Siri сможет видеть, что происходит в приложениях.
✔ Автоматизация действий — голосовой помощник будет сам выполнять задачи в приложениях.
Эти функции должны были появиться в iOS 18.4, но Apple признала, что реализация занимает больше времени, чем ожидалось. Теперь релиз могут отложить до конца года или даже до выхода iOS 19.
Две версии Siri мешают развитию?
Одна из возможных причин задержки — сложность объединения двух отдельных систем. Сейчас Siri работает в двух режимах:
🔹 Старая Siri — выполняет базовые команды.
🔹 Новая Siri — обрабатывает более сложные задачи.
Apple пока не удается объединить их в единую систему, из-за чего возникают ошибки и нестабильность работы.
Главная проблема — безопасность?
Разработчик и эксперт по данным Саймон Уиллис считает, что Apple столкнулась с более серьезной проблемой: новая Siri может быть уязвима для атак через подмену инструкций (prompt injection).
В классических атаках на ИИ злоумышленник пытается изменить поведение модели, внедряя команды, которые обходят защиту. Например, можно заставить чат-бота игнорировать фильтры безопасности и выдавать конфиденциальную информацию.
В случае Siri риск гораздо выше, потому что голосовой помощник взаимодействует с личными данными пользователей и выполняет действия от их имени. Например, можно обмануть Siri, заставив ее отправить данные мошенникам или выполнить нежелательные действия в приложениях.
Известный аналитик Джон Грубер считает, что Apple столкнулась с фундаментальной проблемой: пока никто в индустрии (ни OpenAI, ни Google) не смог окончательно защитить ИИ от таких атак. Если Apple не найдет решение, это может серьезно замедлить разработку Siri.
Что дальше?
Apple всегда делала ставку на безопасность и конфиденциальность. Если у Siri действительно есть серьезные уязвимости, компания не станет рисковать и может значительно отложить релиз обновления.
Пока неясно, смогут ли разработчики Apple решить эту проблему в обозримом будущем. Возможно, Apple придется либо кардинально переработать систему, либо урезать функциональность «умной» Siri ради безопасности пользователей.
А вы бы рискнули попробовать такую Siri, если бы она вышла уже завтра?
