OpenAI lance un nouveau programme Safety Bug Bounty pour identifier les risques d'abus de l'IA. OpenAI launches new Safety Bug Bounty program to identify AI abuse risks.

OpenAI a lancé un nouveau programme Safety Bug Bounty pour identifier les risques d'abus de l'IA, en complément de son programme de sécurité existant. OpenAI has launched a new Safety Bug Bounty program to identify AI abuse risks, complementing its existing security program. L'initiative se concentre sur des problèmes tels que le détournement d'agents IA pour nuire, l'exposition d'informations propriétaires et le contournement des contrôles anti-automatisation. The initiative focuses on issues like hijacking AI agents for harm, exposing proprietary information, and bypassing anti-automation controls. Les chercheurs peuvent être récompensés pour des résultats exploitables, bien que les contournements de la politique générale en matière de contenu soient exclus à moins qu'ils ne causent un préjudice direct. Researchers can earn rewards for actionable findings, though general content-policy bypasses are excluded unless they cause direct harm.