“No me preocupa que nos equivoquemos en las grandes decisiones morales, aunque podamos hacerlo. Lo que me quita el sueño son las decisiones pequeñas que tomamos sobre cómo un modelo se comporta. El impacto es grande”.
Te has preguntado cuando interactúas con ChatGPT quién o quiénes están detrás de este chatbot?
Publicidad
Bueno, el creador de ChatGPT, Sam Altman, tiene mucho, muchísimo, que ver en las respuestas que obtienes.
Las palabras que inician esta nota son de Altman y el peso de tomar decisiones que influyen en millones de personas recae sobre sus hombros.
Publicidad
En entrevista para The Tucker Carlson Show, informa Esquire, Altman dijo: “Es una cuestión difícil porque hay muchas personas con diferentes perspectivas de vida, pero en general me ha sorprendido la capacidad general del modelo para aprender y aplicar un marco moral“.
La cara pública
Altman es el CEO de OpenAI, y destaca: “Tenemos un equipo de comportamiento del modelo, pero la persona a la que hay que hacer responsable de las decisiones sobre qué marco moral se aplica soy yo. Soy la cara pública”.
Aseveró en la entrevista: Siento una gran responsabilidad porque cientos de millones de personas hablan con nuestro modelo.
“No me preocupa que nos equivoquemos en las grandes decisiones morales, aunque podamos hacerlo. Lo que me quita el sueño son las decisiones pequeñas que tomamos sobre cómo un modelo se comporta. El impacto es grande”, añadió.
Según el director ejecutivo de OpenAI, citado en Esquire, “las respuestas que ofrece ahora mismo ChatGPT son el resultado de una consulta a ‘cientos de expertos”.
“Hemos consultado a filósofos morales y gente que ha pensado en la ética de la tecnología y los sistemas. Y, al final, nosotros tomamos las decisiones. Aunque o podemos acertar en todo y necesitamos también un feedback para buscar el equilibrio”, explicó.
Creador de ChatGPT anticipa desaparecerán “clases enteras de empleos” por la IA
“Me gusta tratar a nuestros usuarios adultos como adultos, ofreciéndoles garantías de seguridad y libertad. ChatGPT es una herramienta que construimos para todos y puedes usarla de muchas formas”.
“No duermo bien desde que se lanzó ChatGPT”
La clave para Altman es que el modelo ofrezca las opciones en función de las leyes que imperen en cada lugar, difunde Esquire.
“Respetamos las leyes de las diferentes sociedades. Al final, me veo como un facilitador o guía, pero trato de reflejar la visión moral colectiva de la base de usuarios. Hay muchas cosas que ChatGPT permite con las que yo no estaría de acuerdo”. Pero afirma que no busca imponer su visión moral.
OpenAI lanza ChatGPT-5, su nuevo modelo de IA generativa
Altman se sincera sobre el impacto del chatbot en él mismo: “No duermo bien por las noches. No he dormido bien ni una sola noche desde que se lanzó ChatGPT”.
Con información de Esquire
(I)