ТехноNews: Сотрудники OpenAI и Google DeepMind написали письмо о рисках технологии ИИ
Бывшие и действующие сотрудники OpenAI и Google DeepMind подписали открытое письмо о рисках, которые несёт искусственный интеллект. Также они призвали защитить их от возможного преследования со стороны компаний.
«Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества», — говорится в письме.
Среди подписантов — 16 человек, из них 13 ранее работали в OpenAI, а также «крёстный отец ИИ» Джеффри Хинтон, который работал в Google.
В письме говорится, что в отсутствие какого-либо эффективного государственного надзора компании, занимающиеся искусственным интеллектом, должны взять на себя обязательство работать с открытой критикой. В частности, нынешние и бывшие сотрудники таких компаний должны получить возможность сообщать о возникающих проблемах общественности.
