Amazon AI Exec: 8 ключевых проблем для глобального господства AI
Интеллектуальная планетаAmazon, Google, Apple и Facebook спешат создавать искусственно интеллектуальные системы, чтобы служить нам, связывать нас, помогать нам и ... увеличивать свою прибыль.
(Конечно, не обязательно в таком порядке.)
Но для искусственного интеллекта существует не менее восьми серьезных проблем, и большинство из них не являются технологическими. Директор Amazon по когнитивным интерфейсам для Amazon Web Services А.И. Пилар Манчон рассказал о них сегодня в TechBeach Retreat на Ямайке.
Неудивительно, что многие из них касаются данных и их использования.
«Нам всем нравится иметь настоящего личного помощника, который помогает нам», - сказал Манчон. «Для этого мне нужно поделиться огромным количеством личной информации».
Восемь основных проблем:
- Сравнение облаков и границ
- Персонализация против конфиденциальности
- Агентство
- Безопасность
- Доверие и делегация
- политика
- Углубление данных
- Страх
Первая проблема заключается в том, где вы делаете искусственный интеллект.
Близко к индивидуальным или конечным точкам - краевые вычисления - могут быть отличными для доступа и оперативности, но облако - это то, где массивные вычислительные ресурсы и большие наборы данных могут помочь для решения проблем.
Это связано со вторым вызовом: персонализация против конфиденциальности.
Мы хотим персонализированного опыта, но затраты на их приобретение отдают огромное количество персональных данных Google, Amazon, Facebook и, возможно, в меньшей степени Apple.
Продолжение со страницы 1
Агентство интересное.
When Alexa does something for us, it is acting as an agent, doing our bidding. But because we don't own the agent, using personal assistants prompts difficult questions.
"On behalf of whom are you acting?" Manchón said referencing Alexa, Siri, or other personal assistants. "Are you acting in my best interests … or in the best interests of the company you’re from?"
(Interestingly, ordering batteries via Amazon's Alexa defaults to Amazon Essentials batteries ... and you can't order other brands via voice. That has led some to say that Amazon is privileging its private label brands and taking over market share unfairly.)
Security is always an issue, of course, whenever your personal data is at stake -- and even more so for artificial intelligence and personal assistants. To be helpful, assistants need access to your calendar, your email, and, potentially down the road, the most personal social networks that you belong to.
Trust and delegation is an interesting one.
"What happens to the data?" Manchón asked. "What can it be used for? And what happens to that data when you travel around the world?"
A even more difficult problem, perhaps, is policy.
Governments are not notoriously quick at adjusting legislation to new technological capability. Even worse, government officials tend to be older, less technologically-savvy individuals who may not understand core issues, or what kinds of policies are needed or beneficial for safe and smart future development.
"Do you think that governments around the world are aware of these issues?" Manchón asked.
Data bias is another interesting challenge.
AI systems are only as smart as the data we feed them, and if that data is wrong, or biased, or incomplete, we see problems. Garbage in, garbage out, in old-fashioned computer parlance.
Manchón referenced Microsoft's famously racist chatbot, Tay, which was taught by people on Twitter to be intolerant and nasty. But there are less immediately obvious problems:
"Water sensors are light-based, so if you’re black, they don’t work very well," another speaker at the same conference, Uber's head of International Design Research, Nancy Douyon said yesterday. "And, Apple Watches can’t pick up the pulse of people with darker skin."
(That last point was certainly a concern, but seems to have been fixed.)
The eight core challenge is fear.
Есть много страха перед искусственным интеллектом и роботами, сказал Манчон, особенно в отношении рабочих мест. По ее словам, это исчезнет, поскольку люди понимают, что ИИ не будет делать все, но будет дополнять работу, которую делают люди. Ключом являются отношения между людьми и умными машинами.
Конечно, есть инакомыслящие в этом мнении.
Это делает последнее заявление Маньхона таким ключевым:
«Как сказал Спайдерман и Вольтер ... с великой силой приходит большая ответственность».
Источник: forbes.com