Бывший главный научный сотрудник OpenAI открывает новую компанию в сфере ИИ
![Бывший главный научный сотрудник OpenAI открывает новую компанию в сфере ИИ Бывший главный научный сотрудник OpenAI открывает новую компанию в сфере ИИ](/upload/iblock/f5c/3vre5bffnhlcszp4chrkiu5xx68ud87k/290618.jpg)
Илья Суцкевер, соучредитель и бывший главный научный сотрудник OpenAI, запускает новую компанию в сфере искусственного интеллекта, ориентированную на безопасность. В среду Суцкевер анонсировал создание Safe Superintelligence Inc. (SSI) – стартапа с "одной целью и одним продуктом": создание безопасной и мощной системы искусственного интеллекта.
В анонсе SSI описывается как стартап, который "подходит к безопасности и возможностям в тандеме", позволяя компании быстро развивать свою систему ИИ, при этом отдавая приоритет безопасности. Также отмечается внешнее давление, с которым часто сталкиваются команды ИИ в таких компаниях, как OpenAI, Google и Microsoft, говоря, что "единственная цель" компании позволяет ей избежать "отвлечения на управленческие накладные расходы или циклы разработки продуктов".
"Наша бизнес-модель означает, что безопасность, надежность и прогресс защищены от краткосрочного коммерческого давления", – говорится в анонсе. "Таким образом, мы можем масштабироваться спокойно". Помимо Суцкевера, соучредителями SSI являются Дэниел Гросс, бывший руководитель ИИ в Apple, и Дэниел Леви, ранее работавший техническим сотрудником в OpenAI.
В прошлом году Суцкевер возглавил кампанию по отстранению генерального директора OpenAI Сэма Альтмана. Суцкевер покинул OpenAI в мае и намекнул на начало нового проекта. Вскоре после ухода Суцкевера исследователь ИИ Ян Лейке объявил о своей отставке из OpenAI, ссылаясь на то, что процессы безопасности "отошли на второй план по сравнению с блестящими продуктами". Гретхен Крюгер, исследователь политики в OpenAI, также упомянула проблемы безопасности при объявлении о своем уходе.
В интервью Суцкевер сказал, что первым продуктом SSI будет безопасный суперинтеллект, и компания "не будет делать ничего другого" до тех пор.