Компания Microsoft подтвердила наличие опасной ошибки в своих офисных продуктах. Технический сбой позволял искусственному интеллекту Copilot, интегрированному в Office, читать и анализировать конфиденциальные электронные письма платных пользователей. Этот баг фактически обходил установленные политики безопасности и защиты данных, предназначенные для изоляции личной информации пользователей от ИИ-ассистента. Инцидент вызвал серьёзные вопросы о надёжности систем конфиденциальности в продуктах с интеграцией ИИ.
🤖 Безопасности в xAI пришел конец? Маск делает Grok "безумнее"
Бывший сотрудник xAI заявил, что Илон Маск лично и "активно" участвует в разработке, нацеливаясь сделать нейросеть Grok более "необузданной" (unhinged). Это прямое указание основателя снизить внутренние ограничения и фильтры бота. Такая стратегия резко контрастирует с публичными дискуссиями о безопасном ИИ и вызывает опасения экспертов относительно возможных рисков, связанных с уменьшением "безопасных гарантий" в продукте.
OpenAI объявила о расформировании своей команды по «миссионерскому согласованию» (Superalignment), которая была создана в 2023 году для решения долгосрочных рисков, связанных с развитием сверхмощного ИИ. Лидер команды Илья Суцкевер теперь займёт позицию главного футуролога компании. Остальные члены коллектива интегрированы в другие исследовательские группы OpenAI. Компания заявила, что вопросы безопасности теперь будут решаться на институциональном уровне, а не в рамках отдельного подразделения.
