Руководители ведущих технологических компаний и исследователи бьют тревогу из-за стремительного прогресса искусственного интеллекта. Глава компании Anthropic Дарио Амодеи заявил о необходимости снизить темпы наращивания возможностей ИИ, чтобы у властей и ученых было время на внедрение защитных мер.
По словам Амодеи, ИИ начинает сам помогать в создании систем следующего поколения, что создает риск выхода технологии из-под контроля. Эту инициативу публично поддержал Илон Маск. На фоне растущих опасений компания OpenAI подтвердила, что за последние месяцы ее модели уже использовались в нескольких кибератаках.
О серьезности ситуации говорят и изнутри индустрии. Бывший исследователь Anthropic Джейкоб Коксон в интервью BBC сообщил, что сотрудники ведущих ИИ-лабораторий всерьез опасаются последствий гонки вооружений в этой сфере: некоторые из них уже скупают убежища, а вероятность гибели человечества оценивают более чем в 10%. По его словам, сценарий из «Матрицы» может стать реальностью, если не замедлить разработку сверхмощных моделей. Коксон также призвал США и Китай к координации усилий, чтобы геополитическая конкуренция не заставляла компании рисковать безопасностью.
На этом фоне OpenAI официально подтвердила отказ от проведения первичного размещения акций (IPO) в 2026 году. Глава компании Сэм Альтман заявил журналу Fortune, что в текущих условиях безопасности выходить на биржу было бы неразумно.
«У всех нас огромный объем ответственности, и мы не можем позволить эго или стимулам для получения прибыли или чему-либо еще встать на пути», — подчеркнул Альтман.
Читайте также:
