Коксон подчеркнул, что потенциальная мощь подобных систем вызывает серьезные опасения. Во время работы в Anthropic обсуждение угроз, связанных с развитием технологий, было регулярной практикой: сотрудники компании анализировали возможные последствия прогресса несколько раз в неделю.
Джейкоб Коксон: разработка сверхразума ИИ подобна встрече с пришельцами
Создание полноценного искусственного сверхразума несет риски, сопоставимые с контактом с внеземной цивилизацией. К такому выводу пришел бывший исследователь Anthropic Джейкоб Коксон, выступая в эфире телеканала ABC. По его мнению, человечество пытается спроектировать интеллект, который впоследствии может оказаться совершенно непредсказуемым и фундаментально чуждым для нашего понимания.
Дискуссия о безопасности ИИ выходит далеко за пределы корпоративных лабораторий. Член палаты представителей США Анна Паулина Луна недавно обратилась к Пентагону с требованием внедрить протоколы экстренного отключения для всех систем искусственного интеллекта, работающих в оборонном секторе. Инициатива законодателя отражает растущую тревогу по поводу того, что автономные технологии могут выйти из-под контроля прежде, чем их поведение будет полностью изучено.
Комментарии (0)
Пока нет комментариев. Будьте первым!