Сводка по книге "AI Management Framework Practical Solutions for Ethical AI Deployment and Continuous Improvement" Джона Кириазоглоу
@itlibrary1. Общая информация о книге и авторе
• Автор: Джон Кириазоглоу, главный редактор TheIIC e-Magazine и член Консультативного совета Института внутреннего контроля.
• Цель книги: Облегчить и обеспечить управление экосистемой искусственного интеллекта (ИИ) для частных компаний и государственных организаций, включая создание инфраструктуры ИИ, а также разработку, эксплуатацию и оценку систем и решений ИИ для улучшения принятия решений и поддержки клиентов.
• Рецензия Доктора Марты Бек: Профессор философии Марта Бек поддерживает подход Кириазоглоу, подчеркивая важность интеграции моральных и интеллектуальных добродетелей Аристотеля для процветающей жизни в мире ИИ.
2. Система управления ИИ (AI Management System)
Книга предлагает структурированную систему управления ИИ, состоящую из четырех основных компонентов:
• Компонент 1: Корпоративная философская основа
◦ Включает заявления о видении, миссии и ценностях ИИ.
◦ Основывается на Семи принципах древнегреческой мудрости: Умеренность, Вера, Справедливость, Гармония, Дружба, Калокагатия (Доброта и Благожелательность), Мужество.
◦ Включает политики, такие как Политика этических стандартов ИИ, Политика корпоративной этики, Политика конфликта интересов, Политика корпоративной социальной ответственности, Политика многообразия, Политика защиты окружающей среды и Политика этики данных.
• Компонент 2: Правовая и регуляторная среда
◦ Охватывает глобальные стандарты и руководства ИИ: ISO/IEC 42001, Принципы ОЭСР по ИИ, Закон ЕС об ИИ (EU AI Act), Рамки управления рисками ИИ NIST, Универсальные руководства по ИИ, а также принципы ответственного ИИ от Microsoft, Google, IBM.
◦ Включает основные законы о защите данных: GDPR (для ЕС) и LGPD (для Бразилии), а также принципы "Privacy by Design".
◦ Содержит руководства по цифровой и безопасной разработке систем ИИ: Digital Nations Charter, EU Digital Rights and Principles, Principles for Digital Development, Guidelines for Secure AI System Development.
• Компонент 3: Подход к внедрению ИИ (Пять фаз)
◦ Фаза A: Подготовка к ИИ: Оценка потребностей и пробелов, анализ регулирования, оценка готовности, создание руководящего комитета, обучение высшего руководства.
◦ Фаза B: Управление ИИ: Создание структур управления ИИ, данными и ИТ. Включает разработку стратегии ИИ, определение ролей, управление данными (сбор, маркировка, хранение, безопасность) и ИТ-контроль (инфраструктура, безопасность, пароли, управление изменениями, резервное копирование).
◦ Фаза C: Разработка систем ИИ: Создание команды, выбор проекта, разработка системы, проверка гипотез/алгоритмов/моделей, документирование бизнес-процессов, включение принципов "Explainability by Design" (объяснимость по замыслу), "Security by Design" (безопасность по замыслу) и "Privacy by Design" (конфиденциальность по замыслу).
◦ Фаза D: Эксплуатация систем ИИ: Обзор ИТ-аспектов, качества, аудитабельности, контроль приложений, мониторинг производительности, управление результатами/ошибками, обработка запросов пользователей, управление инцидентами, постводненческий анализ.
◦ Фаза E: Оценка инфраструктуры и систем ИИ: Аудит и оценка корпоративного управления, управления персоналом, управления ИИ, управления данными ИИ, моделей ИИ, разработки и эксплуатации систем ИИ, а также ИТ-управления.
• Компонент 4: Инструменты поддержки ИИ
◦ Включает глоссарий, чек-листы, политики, процедуры, руководства, формы и т.д..
3. Семь принципов древнегреческой мудрости и их применение к ИИ
Эти принципы служат этическим фундаментом для развертывания ИИ:
• Умеренность (Sophrosyne): Самоконтроль, мудрая умеренность. В ИИ – уважение конфиденциальности, избегание злоупотребления данными, работа в этических границах и непрерывный человеческий надзор за решениями ИИ.
• Вера: Признание пределов человеческих возможностей. В ИИ – согласование результатов ИИ с религиозными и моральными ценностями общества.
• Справедливость: Правление на благо управляемых, беспристрастность. В ИИ – разработка справедливых, недискриминационных алгоритмов с возможностью запроса пользователями.
• Гармония: Личная целостность, интеграция эмоций, мыслей и действий. В ИИ – действия, способствующие благосостоянию человека и общей гармонии, с прозрачной документацией логики решений.
• Дружба: Качество отношений. В ИИ – поддержка индивидуального, социального и экологического благополучия.
• Калокагатия (Доброта и Благожелательность): Единство красоты и человеческого совершенства. В ИИ – принятие решений, основанных на доброте, оценка последствий и поддержка социальной сплоченности.
• Мужество: Умение реагировать на страх. В ИИ – принятие решений об использовании ИИ с учетом рисков и преодоление страха при работе с новыми технологиями.
4. Ключевые факторы успеха (CSF) для эффективного и этичного внедрения ИИ
• Лидерство: Видение, приверженность, поддержка и надзор за всеми ИИ-действиями.
• Принципы: Установление этических руководящих принципов и обеспечение их использования в ИИ.
• Регулирование и стандарты: Соответствие ИИ-проектов нормам безопасности и конфиденциальности.
• Стратегия ИИ: Реалистичные цели и согласование с бизнес-целями.
• Технологии ИИ: Приобретение и использование специализированного оборудования и ПО.
• Организация: Создание структур, назначение ответственных лиц и команд.
• Данные: Эффективное и моральное управление внутренними и внешними данными для ИИ.
• Навыки: Развитие необходимых навыков у персонала для создания и эксплуатации этических систем ИИ.
• Поставщики: Эффективное управление поставщиками ИИ-оборудования, ПО, платформ, данных и моделей.
• Инструменты поддержки: Разработка планов, политик и процедур для поддержки систем ИИ.
5. Главные выводы и инсайты
• ИИ, как и любая технология, может быть использован как во благо, так и во зло; требуется постоянное критическое осмысление его применения.
• Важно не путать информацию или данные с всеобъемлющим знанием или трансцендентной мудростью. Истинная мудрость отличает знания и факты от глубокого понимания.
• Необходимо радикальное изменение мышления от материалистического и механистического к системному, совместимому с древними традициями мудрости.
• Человеческие ценности — эмпатия, самоопределение, непредсказуемость, интуиция и творчество — ставят человека выше машин. Человек должен быть в центре и получать основную выгоду от обработки данных ИИ.
• Эффективное внедрение ИИ требует мужества, готовности к ошибкам, постоянного обучения и сотрудничества между поколениями, объединяющего мудрость опыта и скорость новых навыков.
• Конечная цель — это создание устойчивой цивилизации и сохранение свободного общества, где человечество сохраняет контроль над своими решениями и использует ИИ мудро.