Экс-сотрудники Google DeepMind потребовали разрешать предупреждать о рисках ИИ

Бывшие сотрудники OpenAI и Google DeepMind опубликовали открытое письмо, в котором призвали компании, занимающиеся разработкой искусственного интеллекта, принять принципы, позволяющие сотрудникам высказывать опасения по поводу рисков ИИ, не боясь преследований. Письмо, озаглавленное «Право предупреждать о передовом искусственном интеллекте», подписали 13 человек, в том числе бывшие сотрудники OpenAI Джейкоб Хилтон, Даниэль Кокотайло и другие, а также бывшие сотрудники Google DeepMind Рамана Кумар и Нил Нанда. Они утверждают, что ИИ несет в себе серьезные риски, такие как укоренение неравенства, распространение дезинформации и потенциальное вымирание человечества. Они призывают компании, занимающиеся разработкой ИИ, поддерживать культуру «открытой критики», создавать процессы анонимной отчетности и воздерживаться от репрессий в отношении сотрудников, раскрывающих информацию, связанную с рисками. Письмо последовало за спорами вокруг соглашений OpenAI о неразглашении информации, которые компания с тех пор пересмотрела, убрав из них пункты о неразглашении информации....

04:25, 06.06.2024

Рубрика: «Наука и Технологии» Поделиться:

Инсайдеры OpenAI и Google DeepMind серьезно предупреждают об искусственном интеллекте В открытом письме разоблачители утверждают, что эти «передовые компании ИИ» долж ...

Больше никаких галлюцинаций: Google DeepMind представила модель AlphaEvolve Подразделение Google DeepMind компании Alphabet Inc. сегодня представило подробную информа ...

Google DeepMind представила сверхточный прогноз погоды и игровые 3D-миры Лаборатория DeepMind компании Google объявила о выпуске двух сильно отличающихся, но чрезв ...

Сотрудники OpenAI и Google DeepMind просят защиты, чтобы рассказать об угрозах ИИ Группа нынешних и бывших сотрудников OpenAI и Google DeepMind просят предоставить им защит ...