Los jefes de la inteligencia artificial no saben medir sus riesgos
Los directivos de OpenAI, Meta, Anthropic y Google declararon este lunes ante el Concejo de la Ciudad de Nueva York que no pueden cuantificar los riesgos de la inteligencia artificial en el peor de los casos.
El representante de OpenAI dijo que no importa si la probabilidad de algo catastrófico es de 1%, 10% o 20%: ningún nivel es aceptable.
La presidenta del Concejo, Julie Menin, se declaró incrédula y les preguntó cómo pueden asegurar que el producto es seguro si no pueden medir el riesgo. Fue la primera vez que estas empresas testifican en público bajo juramento.
El Concejo presentó 10 proyectos de ley para regular la IA en la ciudad, incluyendo un "interruptor de apagado" humano en todo sistema de IA que opere en Nueva York y recompensas para denunciantes de hasta el 25% de lo recuperado. SpaceX, también invitada, no asistió y fue citada.