Antes del derrocamiento de Altman, la junta directiva de OpenAI estaba dividida y peleada

Antes de que Sam Altman fuera eliminado de OpenAI la semana pasada, él y la junta directiva de la compañía habían estado discutiendo durante más de un año. La tensión empeoró cuando OpenAI se convirtió en un nombre popular gracias a su popular chatbot ChatGPT.

Altman, el director ejecutivo, recientemente tomó la decisión de expulsar a uno de los miembros de la junta directiva porque pensaba que un trabajo de investigación que había coescrito criticaba a la empresa.

Otro miembro, Ilya Sutskever, que también es el científico jefe de OpenAI, pensó que Altman no siempre era honesto cuando hablaba con la junta. Y a los miembros de la junta les preocupaba que Altman estuviera demasiado concentrado en la expansión mientras querían equilibrar ese crecimiento con la seguridad de la IA.

La noticia de que estaba siendo expulsado llegó en una videoconferencia el viernes por la tarde, cuando Sutskever, que había trabajado estrechamente con Altman en OpenAI durante ocho años, le leyó una declaración de la junta. Aunque la decisión sorprendió a los empleados de OpenAI, exponiendo a los miembros de su junta directiva a preguntas difíciles sobre sus calificaciones para administrar una empresa de tan alto perfil, fue la culminación de una tensión latente durante mucho tiempo en la sala de juntas.

La brecha también mostró cómo la construcción de nuevos sistemas de IA está probando si los empresarios que quieren ganar dinero con la inteligencia artificial pueden trabajar en sincronía con los investigadores que temen que lo que están construyendo pueda eventualmente eliminar empleos o convertirse en una amenaza para la humanidad si crecen cosas como las armas autónomas. fuera de control.

OpenAI se inició en 2015 con un ambicioso plan para crear algún día un sistema automatizado superinteligente que pueda hacer todo lo que puede hacer un cerebro humano. Pero la fricción ha afectado durante mucho tiempo a la junta directiva de OpenAI, que ni siquiera ha podido ponerse de acuerdo sobre los reemplazos de los miembros que renunciaron.

Ahora la existencia de la empresa está en duda, en gran parte debido a esa disfunción. Casi todos los 800 empleados de OpenAI han amenazado con seguir a Altman a Microsoft, quien le pidió que dirigiera un laboratorio de IA con Greg Brockman, quien eliminó sus funciones como presidente y presidente de la junta directiva de OpenAI en solidaridad con Altman.

La junta le había dicho a Brockman que ya no sería presidente de OpenAI, pero lo invitó a permanecer en la empresa, aunque no fue invitado a la reunión donde se tomó la decisión de expulsarlo de la junta y a Altman de la misma. la empresa.

La junta no ha dicho sobre qué pensaba que Altman no estaba siendo honesto.

Había indicios de que la junta todavía estaba abierta a su regreso, ya que ella y Altman mantuvieron conversaciones que se extendieron hasta el martes, dijeron dos personas familiarizadas con las conversaciones. Pero había un punto conflictivo: Altman rechazó algunas de las barreras que se habían propuesto para mejorar su comunicación con la junta. No estaba claro cuáles serían exactamente esas barandillas.

Sutskever no respondió a una solicitud de comentarios el martes.

Los problemas con la junta directiva de OpenAI se remontan a los inicios de la empresa sin fines de lucro. En 2015, Altman se asoció con Elon Musk y otros, incluido Sutskever, para crear una organización sin fines de lucro para desarrollar IA que fuera segura y beneficiosa para la humanidad. Planeaban recaudar dinero de donantes privados para su misión. Pero al cabo de unos años se dieron cuenta de que sus necesidades informáticas requerían mucha más financiación de la que podían recaudar de los particulares.

Después de que Musk se fue en 2018, crearon una subsidiaria con fines de lucro que comenzó a recaudar miles de millones de dólares de inversores, incluidos mil millones de dólares de Microsoft. Dijeron que la subsidiaria estaría controlada por la junta sin fines de lucro y que el deber fiduciario de cada director sería hacia «la humanidad, no hacia los inversores de OpenAI». OpenAI dijo en su sitio web.

Después de que el Sr. Altman fue expulsado y el Sr. Brockman se fue, los cuatro miembros restantes de la junta directiva son el Sr. Sutskever; Adam D’Angelo, director ejecutivo de Quora, el sitio de preguntas y respuestas; Helen Toner, directora de estrategia del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown; y Tasha McCauley, emprendedora e informática.

Unas semanas antes del derrocamiento de Altman, se reunió con Toner para discutir un artículo que ella había coescrito recientemente para el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown.

El señor Altman se quejó de que el trabajo de investigación Parecían criticar los esfuerzos de OpenAI para mantener seguras sus tecnologías de IA mientras elogiaban el enfoque de Anthropic, según un correo electrónico que Altman escribió a sus colegas y que fue visto por The New York Times.

En el correo electrónico, Altman dijo que había reprendido a Toner por el artículo y que era peligroso para la empresa, particularmente en un momento, agregó, en el que la Comisión Federal de Comercio estaba investigando a OpenAI por los datos utilizados para construir su tecnología.

Toner lo defendió como un artículo académico que analiza los desafíos que enfrenta el público cuando intenta comprender las intenciones de los países y empresas que desarrollan la IA. Pero Altman no estuvo de acuerdo.

«No sentí que estuviéramos en la misma página sobre el daño de todo esto», escribió en el correo electrónico. «Cualquier cantidad de crítica por parte de un miembro de la junta directiva tiene mucho peso».

Los altos líderes de OpenAI, incluido Sutskever, quien está profundamente preocupado de que la IA algún día pueda destruir a la humanidad, discutieron más tarde si la Sra. Toner debería ser destituida, dijo una persona involucrada en las conversaciones.

Pero poco después de esas discusiones, Sutskever hizo lo inesperado: se puso del lado de los miembros de la junta para destituir a Altman, según dos personas familiarizadas con las deliberaciones de la junta. Leyó al Sr. Altman la declaración pública de la junta explicando que el Sr. Altman fue despedido porque no estaba «consistentemente sincero en sus comunicaciones con la junta directiva.”

La frustración de Sutskever con Altman se hizo eco de lo que había sucedido en 2021 cuando Otro científico senior de IA dejó OpenAI para formar la empresa Anthropic. Ese científico y otros investigadores acudieron a la junta para tratar de expulsar al Sr. Altman. Después de fracasar, se dieron por vencidos y se marcharon, según tres personas familiarizadas con el intento de expulsar a Altman.

«Después de una serie de negociaciones razonablemente amistosas, los cofundadores de Anthropic pudieron negociar su salida en términos mutuamente aceptables», dijo una representante de Anthropic, Sally Aldous.

Las vacantes exacerbaron los problemas de la junta. Este año, no estuvo de acuerdo sobre cómo reemplazar a tres directores salientes: Reid Hoffman, fundador de LinkedIn y miembro de la junta directiva de Microsoft; Shivon Zilis, director de operaciones de Neuralink, una empresa fundada por Musk para implantar chips de computadora en el cerebro de las personas; y Will Hurd, excongresista republicano de Texas.

Después de examinar a cuatro candidatos para un puesto, los directores restantes no pudieron ponerse de acuerdo sobre quién debería ocuparlo, dijeron dos personas familiarizadas con las deliberaciones de la junta. El estancamiento endureció la división entre Altman y Brockman y otros miembros de la junta.

Horas después de que Altman se fuera, los ejecutivos de OpenAI confrontaron a los miembros restantes de la junta durante una videollamada, según tres personas que estuvieron en la llamada.

Durante la llamada, Jason Kwon, director de estrategia de OpenAI, dijo que la junta estaba poniendo en peligro el futuro de la empresa al expulsar a Altman. Esto, dijo, violaba las responsabilidades de los miembros.

La señora Toner no estuvo de acuerdo. La misión de la junta es garantizar que la empresa cree inteligencia artificial que “beneficie a toda la humanidad”, y si la empresa fuera destruida, dijo, esa misión se cumpliría. En opinión de la junta, OpenAI sería más fuerte sin Altman.

El domingo, la esposa de Brockman, Anna, instó a Sutskever en la oficina de OpenAI a cambiar de rumbo, según dos personas familiarizadas con el intercambio. Horas después firmé una carta con otros empleados exigiendo la renuncia de los directores independientes. El enfrentamiento entre el Sr. Sutskever y la Sra. Brockman fue informado anteriormente por El periodico de Wall Street.

A las 5:15 am del lunes, publiqué en Xanteriormente Twitter, que «lamento profundamente mi participación en las acciones de la junta».