EU. Карманы полные звезд

Не успели отгреметь первые новости по Европейской регуляции GDRP (0.5 миллиона штрафа обычной португальской больнице - как вам?) - а на горизонте замаячил следующий не менее эпичный законодательный фреймворк ЕС (фреймворк - буквально рамки в которых будут произведены работы :)

18 декабря группа High-level experts по Искусственному Интеллекту (AI HLEG) выкатила драфт документа “Этические правила для благонадежного (trustworthy) ИИ”.

Документ выложен на благозвучном домене europe.eu: https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_draft_ethics_guidelines_18_december.pdf

Я думаю, что прочитать документ особенно важно работникам ИТ потому, что он определит развитие отрасли как минимум на 10-15 лет.

Но конечно и обычные люди (гражданские:) найдут в нем много интересного о том, как лидеры мнений ЕС мыслят отношения человека и машины.

В качестве затравочки, я процитирую несколько особенно интересных мест, хотя конечно крайне рекомендую потратить время и прочитать манускрипт целиком. Ибо мы вплотную приблизились к моменту, когда законы робототехники Азимова стали насущной необходимостью и пора бы их формализовать.

Для начала база:

Не особо претерпела изменения со времен Канта: "Галактиктический логотип Google Chome передо мной и этическая цель внутри меня"

Дальше - больше:

In an AI context, equality entails that the same rules should apply for everyone to access to information, data, knowledge, markets and a fair distribution of the value added being generated by technologies.

Слегка левацкий пассаж, чуть ли не подразумевающий конец патентного права в технологиях и глобальный Open source :)  

 Значит ли он, например, что данные собранные Фейсбуком станут доступны всем? Особенно хорошо звучит в контексте новости о том, что Фейсбук продавал доступ к личной переписки пользователей другим компаниям Долины. Пора бы поделиться?

Следующий интересный заход про свободу воли:

Human beings interacting with AI systems must keep full and effective self determination over themselves. If one is a consumer or user of an AI system this entails a right to decide to be subject to direct or indirect AI decision making, a right to knowledge of direct or indirect interaction with AI systems, a right to opt out and a right of withdrawal.

Принцип 21-ого века - это право интеллекта на самоопределение :)

Представляю как увеличится сложность ИТ систем, которые должны будут поддерживать несколько моделей взаимодействия с пользователем (А уж сколько новых рабочих мест откроется ..:)

Отдельная часть документа посвящена беспокойству экспертов по поводу развития реальности ИИ в неправильном направлении. Вот часть про вычисление индивидуального рейтинга гражданина:

However, whenever citizen scoring is applied in a limited social  domain, a fully transparent procedure should be available to citizens, providing them with information on the process, purpose and methodology of the scoring, and ideally providing them with the possibility to opt-out of the scoring mechanism. This is particularly important in situations where an asymmetry of power exists between the parties.

Немного обтекаемо конечно. Видимо до законодательных инициатив в вопросах human scoring пока далеко. Однако главный принцип просвечивает неплохо. Те, кто хоть раз наслаждался европейским равенством прав маленького человека и большой системы (корпорации, государства) - поймут о чем здесь.

Зато все ясно с автономными оружейными системами.

LAWS (Legal Autonomous Weapon System) can operate without meaningful human control over the critical functions of selecting and attacking individual targets. Ultimately, human beings are, and must remain, responsible and accountable for all  casualties… The European Parliament has called for the urgent development of a common legally binding position addressing ethical and legal questions of human control, oversight, accountability and implementation of international human rights law, international humanitarian law and military strategies.

P. S. О грустом, об инклюзивности.

Diversity and inclusion play an essential role in AI systems. It is therefore critical that as AI systems perform more tasks on their own, the teams that design, develop, test and maintain these systems reflect the diversity of users and of society in general. This contributes to objectivity and consideration of different perspectives, needs and objectives. It is not only necessary that teams are diverse in terms of gender, culture, age, but also in terms of professional backgrounds and skillsets.

Отличный посыл, однако судя по длинному списку авторов документа (Fraunhofer Institute, Oxford, Airbus, SAP, University of Liege и даже внезапно AI Alliance из Болгарии) всего целая страница, на Россию инклюзивность не распространяется.

Но кто в этом виноват? За последние полгода я получил ровно 3(три) евро - за свои тексты. Что примечательно, от читательницы из Германии.
Ну не нужны дорогим россиянам свои Азимовы. Им куда интереснее скитаться по филологическим тупикам чужой драмы в белых халатах. Что поделаешь.

Всех с Новым Годом.

https://media.giphy.com/media/queGWgLKMWS88/giphy.gif