Изследователят Даниел Кокотайло, докторант по философия, който е работил в екипа за управление на OpenAI, е напуснал компанията миналия месец. Това е разгорещен дебат, като експертите отдавна предупреждават за потенциалните опасности от ИИ, който надхвърля познавателните способности на хората. Миналата година над 1100 експерти, изпълнителни директори и изследователи в областта на изкуствения интелект – включително изпълнителният директор на SpaceX Елон Мъск – подписаха отворено писмо, в което призоваха за шестмесечен мораториум върху „експериментите с ИИ“.
„Мисля, че повечето хора, които настояват за пауза, се опитват да се противопоставят на „селективната пауза“ и за действителна пауза, която да се прилага за големите лаборатории, които са в челните редици на прогреса“, пише Кокотайло. „Разочарованието ми от това е част от причините, поради които напуснах OpenAI“, заключава той. Кокотайло напусна приблизително два месеца след като инженерът-изследовател Уилям Сондърс също напусна компанията.
Задачата му е да гарантира, че „системите с изкуствен интелект, които са много по-умни от хората, следват човешките намерения“, според уебсайта на OpenAI. „Свръхинтелигентността ще бъде най-влиятелната технология, която човечеството някога е изобретявало, и може да ни помогне да решим много от най-важните световни проблеми“, се казва в описанието на екипа на компанията. Дебатът относно опасностите от неконтролирания свръхинтелигентен ИИ може да е изиграл роля за уволнението и евентуалното повторно наемане на главния изпълнителен директор Сам Алтман миналата година.
Съобщава се, че Суцкевер, който е бил член на първоначалния управителен съвет на юридическото лице с нестопанска цел OpenAI, не е бил съгласен с Олтман по темата за безопасността на ИИ, преди Олтман да бъде отстранен, а по-късно е бил изключен от борда.