Zico Kolter, profesor de Carnegie Mellon, dirige el comité de seguridad de OpenAI, que puede detener las liberaciones de IA para garantizar la seguridad durante su transición a una entidad con fines de lucro. Zico Kolter, a Carnegie Mellon professor, leads OpenAI’s safety committee, which can halt AI releases to ensure safety during its transition to a for-profit entity.

Zico Kolter, un profesor de informática de 42 años de la Universidad Carnegie Mellon, lidera el Comité de Seguridad y Protección de OpenAI, un panel de cuatro miembros con el poder de detener las liberaciones de IA consideradas inseguras. Zico Kolter, a 42-year-old computer science professor at Carnegie Mellon University, leads OpenAI’s Safety and Security Committee, a four-member panel with the power to halt AI releases deemed unsafe. Nombrado hace más de un año, su papel se convirtió en un requisito clave para la transición de OpenAI en 2025 a una corporación de beneficio público con fines de lucro, mandatada por los reguladores de California y Delaware. Appointed over a year ago, his role became a key requirement for OpenAI’s 2025 transition into a for-profit public benefit corporation, mandated by California and Delaware regulators. Los acuerdos aseguran que las decisiones de seguridad tengan prioridad sobre los objetivos financieros, otorgando a Kolter plenos derechos de observación en las reuniones de la junta con fines de lucro y acceso a los datos de seguridad. The agreements ensure safety decisions take precedence over financial goals, granting Kolter full observation rights to for-profit board meetings and access to safety data. El comité aborda los riesgos que incluyen el uso indebido de la IA en el desarrollo de armas, ciberataques y daños a la salud mental. The committee addresses risks including AI misuse in weapons development, cyberattacks, and mental health harm. Si bien Kolter se negó a confirmar si el panel ha bloqueado alguna vez una liberación, enfatizó el creciente panorama de amenazas de IA avanzada. While Kolter declined to confirm if the panel has ever blocked a release, he emphasized the growing threat landscape of advanced AI. Su liderazgo refleja un mayor escrutinio mientras OpenAI navega por su cambio de misión sin fines de lucro a empresa comercial. His leadership reflects heightened scrutiny as OpenAI navigates its shift from nonprofit mission to commercial enterprise.