Мошенники применяли ChatGPT для поддержки различных схем, включая инвестиционное мошенничество, романтические аферы, незаконные азартные игры и схемы выдачи себя за другое лицо. Использование ИИ позволяло им создавать более убедительные и персонализированные сообщения, что значительно увеличивало эффективность их обманных действий и затрудняло их выявление.
Действия OpenAI по пресечению этой операции демонстрируют проактивный подход компании к обеспечению безопасности своих технологий. Они активно мониторят использование своих моделей и вмешиваются, когда обнаруживают злонамеренную активность, что является критически важным шагом в борьбе с цифровой преступностью, использующей передовые технологии.
Этот инцидент служит важным напоминанием о том, что, несмотря на огромный потенциал ИИ для блага, существуют и те, кто стремится использовать его во вред. Разработчикам ИИ необходимо продолжать совершенствовать свои системы безопасности и механизмы обнаружения злоупотреблений, а пользователям — проявлять бдительность и критическое мышление при взаимодействии с незнакомыми предложениями и запросами.
OpenAI пресекла мошенническую операцию в Камбодже, использующую ChatGPT
