Защита конфиденциальности и искусственный интеллект: сложный план Apple

Новый подход Apple к обучению ИИ: фокус на конфиденциальности

Apple разработала инновационный метод обучения искусственного интеллекта, обеспечивающий улучшение моделей без прямого доступа к пользовательским данным. Компания использует сравнение синтетических данных с реальными образцами, получаемыми с устройств пользователей, добровольно участвующих в программе Device Analytics.

Устройства Apple анализируют синтетические данные и определяют наиболее близкие к реальным образцам. Затем на сервер отправляется лишь сигнал, указывающий на лучший вариант, без передачи самих данных. Это позволяет, по утверждению Apple, гарантировать полную защиту личных данных пользователей, которые остаются на устройстве.

На основе частоты выбора определённых синтетических образцов Apple совершенствует текстовый вывод своего ИИ, например, функцию автоматического суммирования электронных писем.

Улучшение работы Siri и функций ИИ

Ранее Apple испытывала трудности с запуском некоторых флагманских функций искусственного интеллекта. Запуск некоторых возможностей откладывался, а руководство команды Siri претерпело изменения. Новая система обучения ИИ призвана решить эти проблемы.

Эта новая система уже доступна в бета-версиях iOS и iPadOS 18.5, а также macOS 15.5. Apple применяет дифференциальную приватность, добавляя случайную информацию в общий набор данных для предотвращения идентификации конкретных пользователей.

Дифференциальная приватность: защита данных на высшем уровне

Apple использует метод дифференциальной приватности, внедрённый еще в iOS 10 (2016 год), для защиты пользовательских данных. Этот метод уже применяется в функции AI-powered Genmoji и теперь используется в новой системе обучения ИИ.

Благодаря дифференциальной приватности, Apple гарантирует невозможность идентификации конкретного пользователя по полученным данным, обеспечивая максимальную конфиденциальность.

Примеры применения дифференциальной приватности

Дифференциальная приватность работает за счёт добавления шума к данным. Представьте, что мы собираем данные о возрасте пользователей. Вместо того, чтобы отправлять точный возраст, мы добавляем случайное число, например, от -5 до +5 лет. Это искажает отдельные данные, но общая картина остаётся относительно точной.

Другой пример: анализ запросов в поисковике. Вместо отправки точного поискового запроса, система добавляет случайные слова или изменяет порядок слов. Это затрудняет идентификацию конкретного пользователя, но позволяет анализировать общие тенденции поиска.

Будущее конфиденциального ИИ от Apple

Внедрение этой новой системы обучения ИИ – важный шаг Apple к созданию более безопасного и конфиденциального искусственного интеллекта. Это демонстрирует стремление компании к балансу между инновациями и защитой данных пользователей.

Подобный подход может стать стандартом в индустрии, показывая, что высококачественный ИИ может быть обучен без ущерба для частной жизни пользователей. Дальнейшее развитие этой технологии обещает новые возможности для создания мощных и безопасных систем искусственного интеллекта.