Обучение GPT-5 так и не началось — OpenAI беспокоится, что новая модель опасна для человечества
Пообещав приостановить работу над преемницей нейросети GPT-4, компания OpenAI так и не приступила к обучению GPT-5. Мера вызвана общественным беспокойством по поводу потенциальной угрозы больших языковых моделей благополучию человечества.
«Нам предстоит проделать массу работы, прежде чем запустим эту модель. Мы прорабатываем новые идеи, которые, как мы думаем, для этого нужны, но к запуску мы пока не приблизились», — рассказал глава OpenAI Сэм Альтман (Sam Altman) на конференции, организованной индийской газетой Economic Times.
В конце марта более тысячи представителей общественности и экспертного сообщества, включая Илона Маска (Elon Musk) и Стива Возняка (Steve Wozniak), подписали открытое письмо с призывом ко всем лабораториям искусственного интеллекта как минимум на 6 месяцев приостановить обучение систем мощнее GPT-4. Позже Альтман отметил, что в документе «отсутствует большинство технических нюансов по поводу того, где нам нужно сделать паузу», но добавил, что OpenAI так и не начала обучение GPT-5 и не планирует делать это еще какое-то время.
Глава компании отверг некоторые предостережения в отношении потенциальных угроз систем ИИ, заявив, что OpenAI и сама способна провести их всестороннюю оценку с привлечением сторонних экспертов, имитацией полномасштабных кибератак и прочими тестами на безопасность. И даже по завершении работы над GPT-4 потребовались еще полгода для выпуска платформы в открытый доступ, напомнил Альтман. Он также выступил против мер госрегулирования для небольших стартапов в области ИИ — предложив эту меру на слушаниях в Сенате, он имел в виду саму OpenAI и более крупных игроков.
Обговорення новини
Попередні новини
Google прокачала чат-бота Bard в математике и программировании13:41 08.06.2023Bard, чат-бот Google с искусственным интеллектом, постепенно совершенствуется в решении задач, связанных с логикой и рассуждениями. Об этом технологический гигант рассказал сегодня в своем блоге. Благодаря технике, называемой «скрытое выполнение кода», Bard стал лучше разбираться в математике и написании кода.
ChatGPT-3 поручили руководить инженерным проектом — на выходе получился сборщик томатов11:58 08.06.2023Швейцарские и нидерландские ученые проверили способность большой языковой модели ChatGPT-3 выступить в роли генератора инженерных идей. Работая бок о бок люди и «роботы» спроектировали, построили и испытали роботизированного сборщика томатов с кустов.
Infinix первой интегрирует ChatGPT в свои смартфоны на уровне ОС09:03 04.06.2023Компания Infinix, похоже, будет первой, кто интегрирует ChatGPT в смартфоны. Запускать ИИ на смартфоне, конечно, можно и сейчас, а для iPhone и вовсе уже есть родное приложение, но Infinix интегрирует чат-бот непосредственно с систему.
