NYT сообщила о хищении конфиденциальной переписки у разработчика ChatGPT
В начале прошлого года неизвестный хакер получил доступ к внутренним системам обмена сообщениями американской компании OpenAI — разработчика чат-бота ChatGPT, — и похитил данные об искусственном интеллекте, которые, по мнению некоторых сотрудников, могут представлять угрозу для национальной безопасности США. Об этом сообщает The New York Times (NYT).
По данным источников, хакер выкрал переписки, в которых сотрудники OpenAI обсуждали новейшие технологии в области ИИ, однако не смог проникнуть в системы, где хранятся наработки компании по искусственному интеллекту.
О похищении секретных переписок руководство OpenAI рассказало во время общего собрания в офисе компании в Сан-Франциско в апреле 2023 года и проинформировало об этом совет директоров. Однако публично о взломе не сообщалось, так как кража не затронула данные клиентов или партнеров.
Некоторые сотрудники OpenAI после инцидента выразили опасения, что их наработки могут попасть в руки иностранных государств, например, Китая, что может поставить под угрозу национальную безопасность США. Однако руководство компании не считало этот инцидент угрозой для нацбезопасности, полагая, что хакер действовал в одиночку.
По данным NYT, после утечки Леопольд Ашенбреннер, технический менеджер программы OpenAI по безопасности технологий ИИ, направил совету директоров служебную записку. В ней он утверждал, что компания не приняла достаточных мер для предотвращения кражи ее секретов. Позже Ашенбреннер был уволен за утечку информации. Сам он назвал свое увольнение политически мотивированным.
В компании OpenAI заявили, что увольнение Ашенбреннера не связано с его обвинениями. «Хотя мы разделяем его приверженность созданию безопасного AGI, мы не согласны со многими его заявлениями о нашей работе и безопасности», — сказала представитель OpenAI Лиз Буржуа.
На сегодняшний день наиболее продвинутый чат-бот с ИИ — это ChatGPT разработки OpenAI, основанный на языковой модели GPT-4. Он способен распознавать не только текст, но и голос с видео. Следующим шагом станет создание голосового помощника для естественного разговора в реальном времени.
Разработчики ИИ стремятся к созданию так называемого AGI (Artificial General Intelligence) — ИИ, который будет соответствовать человеческому разуму. Основатель OpenAI Сэм Альтман ранее говорил, что такая технология «заменит среднего человека». Основатель Tesla и SpaceX Илон Маск прогнозировал появление AGI к 2029 году.
В марте прошлого года Маск, сооснователь Pinterest Эван Шарп, сооснователь Apple Стив Возняк и другие визионеры подписали открытое письмо с призывом приостановить разработку и обучение нейросетей. Они указали на потенциальные опасности для общества, связанные с системами ИИ, сопоставимыми с человеческим интеллектом, и предложили остановить их разработку на шесть месяцев. В случае невыполнения этого требования авторы призвали правительства ввести мораторий.