Zico Kolter, professeur de Carnegie Mellon, dirige le comité de sécurité OpenAI, qui peut arrêter les rejets d'IA pour assurer la sécurité pendant sa transition vers une entité à but lucratif. Zico Kolter, a Carnegie Mellon professor, leads OpenAI’s safety committee, which can halt AI releases to ensure safety during its transition to a for-profit entity.

Zico Kolter, professeur d'informatique à l'Université Carnegie Mellon, 42 ans, dirige OpenAIs Safety and Security Committee, un panel de quatre membres qui a le pouvoir d'arrêter les rejets d'IA jugés dangereux. Zico Kolter, a 42-year-old computer science professor at Carnegie Mellon University, leads OpenAI’s Safety and Security Committee, a four-member panel with the power to halt AI releases deemed unsafe. Nommé il y a plus d’un an, son rôle est devenu une exigence clé pour la transition d’OpenAI en 2025 vers une société d’intérêt public à but lucratif, mandatée par les régulateurs de la Californie et du Delaware. Appointed over a year ago, his role became a key requirement for OpenAI’s 2025 transition into a for-profit public benefit corporation, mandated by California and Delaware regulators. Les accords garantissent que les décisions de sécurité priment sur les objectifs financiers, accordant à Kolter le droit d'observation complet aux réunions à but lucratif et à l'accès aux données de sécurité. The agreements ensure safety decisions take precedence over financial goals, granting Kolter full observation rights to for-profit board meetings and access to safety data. Le comité traite des risques, y compris l'utilisation abusive de l'IA dans la mise au point d'armes, les cyberattaques et les atteintes à la santé mentale. The committee addresses risks including AI misuse in weapons development, cyberattacks, and mental health harm. Alors que Kolter a refusé de confirmer si le panneau a jamais bloqué une libération, il a souligné le paysage de menace croissante de l'IA avancée. While Kolter declined to confirm if the panel has ever blocked a release, he emphasized the growing threat landscape of advanced AI. Son leadership reflète un examen approfondi alors qu'OpenAI navigue sur son passage de la mission à but non lucratif à l'entreprise commerciale. His leadership reflects heightened scrutiny as OpenAI navigates its shift from nonprofit mission to commercial enterprise.