OpenAI para niños

Datos para niños OpenAI
Tipo	501(c) organization#501(c)(3)|501(c)(3) Nonprofit organization
Campo	inteligencia artificial, aprendizaje automático y buscador
Industria	inteligencia artificial
Forma legal	sociedad de Delaware
Fundación	11 de diciembre de 2015 y 8 de diciembre de 2015
Fundador	Elon Musk Sam Altman Ilya Sutskever Greg Brockman Wojciech Zaremba Andrej Karpathy
Sede central	San Francisco, California, EE.UU.
Personas clave	Ilya Sutskever, Greg Brockman
Productos	OpenAI Gym
Activos	19 976 363 dólares estadounidenses
Empleados	700
Filiales	OpenAI OpCo
Coordenadas	37°45′44″N 122°24′53″O / 37.762222222222, -122.41472222222
Sitio web	openai.com

OpenAI es un laboratorio de investigación de inteligencia artificial (IA) estadounidense que consta de la organización sin fines de lucro OpenAI Incorporated y su corporación subsidiaria con fines de lucro OpenAI Limited Partnership. OpenAI realiza investigaciones de IA con la intención declarada de promover y desarrollar una IA amigable. Los sistemas OpenAI se ejecutan en una plataforma de supercomputación basada en Azure de Microsoft.

OpenAI fue fundada en 2015 por Ilya Sutskever, Greg Brockman, Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, Jessica Livingston, John Schulman, Pamela Vagata y Wojciech Zaremba, con Sam Altman y Elon Musk como miembros iniciales de la junta. Microsoft proporcionó a OpenAI una inversión de mil millones de dólares en 2019 y una inversión de diez mil millones de dólares en 2023.

Motivos

Algunos científicos, como Stephen Hawking y Stuart Russell, creen que si la inteligencia artificial avanzada algún día gana la capacidad de rediseñarse a un ritmo cada vez mayor, una «explosión de inteligencia» imparable podría llevar a la extinción humana. Musk caracteriza a la IA como la mayor amenaza existencial de la humanidad. Los fundadores de OpenAI lo estructuraron como una organización sin fines de lucro para que pudieran centrar su investigación en la creación de un impacto humano positivo a largo plazo.

OpenAI afirma que «es difícil comprender cuánto podría beneficiar a la sociedad la IA al nivel humano», y que es igualmente difícil comprender «cuánto podría dañar a la sociedad si se construyera o se usara incorrectamente». La investigación sobre seguridad no se puede posponer con seguridad: «debido a la sorprendente historia de la IA, es difícil predecir cuándo la IA a nivel humano podría estar al alcance». OpenAI afirma que AI «debe ser una extensión de las voluntades humanas individuales y, en el espíritu de la libertad, distribuirse de la manera más amplia y equitativa posible ...» El copresidente Sam Altman espera que el proyecto de décadas supere la inteligencia humana.

Vishal Sikka, ex director ejecutivo de Infosys, declaró que una «apertura» donde el esfuerzo «produciría resultados generales para mayor interés de la humanidad» era un requisito fundamental para su apoyo, y que OpenAI «se alinea muy bien con nuestros valores más antiguos" y su "esfuerzo por hacer un trabajo con propósito». Cade Metz de Wired sugiere que las empresas como Amazon pueden estar motivadas por el deseo de utilizar datos y software de código abierto para nivelar el campo de juego contra corporaciones como Google y Facebook que poseen enormes cantidades de datos de propiedad. Altman afirma que las compañías Y Combinator compartirán sus datos con OpenAI.

Estrategia

Musk plantea la pregunta: «¿qué es lo mejor que podemos hacer para asegurar que el futuro sea bueno? Podríamos sentarnos al margen o alentar la supervisión reguladora, o podríamos participar con la estructura adecuada con personas que se preocupan profundamente por desarrollar la IA de una manera segura y beneficiosa para la humanidad». Musk reconoce que «siempre hay algún riesgo de que al tratar de avanzar la (amigable) IA podamos crear lo que nos preocupa»; sin embargo, la mejor defensa es «facultar a tantas personas como sea posible para tener IA. Si todos tienen poderes de IA, entonces no hay una sola persona o un conjunto pequeño de personas que puedan tener superpotencia de IA».

La estrategia contraintuitiva de Musk y Altman de tratar de reducir el riesgo de que la IA cause un daño general, al dar IA a todos, es controvertida entre aquellos que están preocupados por el riesgo existencial de la inteligencia artificial. El filósofo Nick Bostrom es escéptico sobre el enfoque de Musk: «Si tienes un botón que podría hacer cosas malas al mundo, no quieres dárselo a todos». Durante una conversación de 2016 sobre la singularidad tecnológica, Altman dijo que «no planeamos lanzar todo nuestro código fuente» y mencionó un plan para «permitir que amplias franjas del mundo elijan representantes para una nueva junta de gobierno». Greg Brockman declaró que «nuestro objetivo en este momento ... es hacer lo mejor que hay que hacer. Es un poco impreciso».

Gym

El objetivo de Gym es proporcionar un punto de referencia de inteligencia general, fácil de instalar con una amplia variedad de entornos diferentes (algo parecido, pero más amplio, al reto de reconocimiento visual de gran escala ImageNet utilizado en la investigación de aprendizaje supervisado), y que espera estandarizar la forma en que se definen los entornos en las publicaciones de investigación de IA, de modo que la investigación publicada se vuelva más fácil de reproducir. El proyecto pretende proporcionar al usuario una interfaz simple. A partir de junio de 2017, Gym solo se puede usar con Python. A partir de septiembre de 2017, el sitio de documentación de Gym ya no se mantiene.

RoboSumo

Igor Mordatch de OpenAI argumenta que la competencia entre agentes puede crear una «carrera de armamentos» de inteligencia que puede aumentar la capacidad de un agente para funcionar, incluso fuera del contexto de la competencia. En el RoboSumo de OpenAI, los robots metalearning humanoides virtuales inicialmente carecen de conocimiento de cómo caminar, y teniendo en cuenta los objetivos de aprender a moverse, y empujar al agente contrario fuera del ring. A través de este proceso de aprendizaje adversial, los agentes aprenden cómo adaptarse a las condiciones cambiantes; cuando un agente se retira de este entorno virtual y se coloca en un nuevo entorno virtual con fuertes vientos, el agente se prepara para permanecer en posición vertical, lo que sugiere que aprendió a equilibrar de forma generalizada.

ChatGPT

Primer Modelo:

OpenAI's GPT modelo ("GPT-1"), Alec Radford y compañeros escribieron el artículo original sobre el entrenamiento previo generativo de un modelo de lenguaje basado en transformadores, que se publicó en versión preliminar en el sitio web de OpenAI el 11 de junio de 2018. Mediante el entrenamiento previo en un corpus diverso con largos tramos de texto continuo, se demostró cómo un modelo de lenguaje generativo puede aprender sobre el mundo y procesar dependencias de largo alcance.

Segundo Modelo:

GPT-2, El transformador preentrenado generativo OpenAI modelo GPT-1 fue reemplazado por el transformador preentrenado generativo 2 (GPT-2). Inicialmente, solo unas pocas versiones de demostración de GPT-2 se pusieron a disposición del público después de su anuncio inicial en febrero de 2019. Debido a preocupaciones sobre posibles abusos, incluso por parte de aplicaciones para crear noticias falsas, la versión completa de GPT-2 no se lanzó de inmediato. Algunos expertos cuestionaron si GPT-2 representaba una amenaza grave.

Con una herramienta para identificar "noticias falsas neuronales", el Instituto Allen de Inteligencia Artificial respondió a GPT-2. Otros investigadores han expresado su preocupación acerca de "la tecnología para llenar completamente Twitter, el correo electrónico y la web con una prosa adecuada al contexto que suena razonable y que ahogaría cualquier otro discurso y sería imposible de filtrar". OpenAI puso a disposición la versión completa del modelo de lenguaje GPT-2 en noviembre de 2019. Varios sitios web ofrecen demostraciones interactivas de varias iteraciones de GPT-2 y otros modelos de transformadores.

Se volvió a intentar con dos modelos más (GPT-3 Y GPT-4) hasta que se llegó a la versión actual, Chat GPT, a la cual se le suma la versión "Plus" y la aplicación para iOS.

Participantes

Los partidarios del proyecto;

• Reid Hoffman, cofundador de Linkedin.
• Peter Thiel, cofundador de PayPal.
• Jessica Livingston, una fundadora de Y Combinator.
• Amazon Web Services, subsidiaria de Amazon.com para servicios en la nube.
• Infosys, una firma india de informática y tecnología.

Personal de alto perfil:

• Director de investigación: Ilya Sutskever, anteriormente experto de aprendizaje de máquinas en Google.
• CEO (desde 11/2023): Mira Murati., anteriormente Leap Motion y Tesla, Inc.
• CTO: Brad Lightcap, anteriormente Y Combinator y JPMorgan Chase

Anterior:

• CEO y co-fundador: Sam Altman, anteriormente presidende de Y Combinator
• Presidente y co-fundador: Greg Brockman, anteriormente CTO

El grupo comenzó a principios de enero de 2016 con nueve investigadores. Según Wired, Brockman se reunió con Yoshua Bengio, uno de los «padres fundadores» del movimiento de aprendizaje profundo, y elaboró una lista de los «mejores investigadores en el campo». Peter Lee, de Microsoft, afirmó que el costo de un investigador superior en IA excede el costo de un prospecto de mariscal de campo de la NFL. Si bien OpenAI paga salarios de nivel corporativo (en lugar de niveles sin fines de lucro), actualmente no paga salarios de investigadores de IA comparables a los de Facebook o Google. Sin embargo, Sutskever declaró que estaba dispuesto a dejar Google para OpenAI «en parte por el gran grupo de personas y, en gran medida, por su misión». Brockman declaró que «lo mejor que podía imaginar era acercar a la humanidad a la construcción de una IA real de una manera segura». El investigador de OpenAI, Wojciech Zaremba, declaró que rechazó las ofertas de «locura límite» de dos o tres veces su valor de mercado para unirse a OpenAI.

Véase también

En inglés: OpenAI Facts for Kids

• Anthropic
• Robótica de código libre
• DeepMind