El esqueleto, ChatGPT y las trampas de confiar en la IA

Cuando Dan Goldstein, un fisioterapeuta de West Palm Beach, estaba de vacaciones en Noruega recientemente, vio algo inusual.

Un esqueleto estaba posado sobre los tubos del órgano en el Ayuntamiento de Oslo, el lugar donde se lleva a cabo la ceremonia del Premio Nobel de la Paz todos los años.

Goldstein tomó fotos del esqueleto en el órgano e hizo una búsqueda en Google de una explicación, pero no encontró nada.

Su amigo le sugirió que investigara en ChatGPT, una fuente de inteligencia artificial en línea que recopila una amplia gama de datos de una variedad de fuentes para servir como una especie de asistente personal experto capaz de responder preguntas de manera conversacional y escribir de todo, desde ensayos universitarios hasta correspondencia comercial. a las columnas de los periódicos en el acto.

Disney sobre hielo delgado:Sugerencias para 'arreglar' películas de Disney después de la adquisición de DeSantis

cerabino:Estimados miembros del Mar-a-Lago Club, esta redada del FBI les va a costar

Más: Sistema E-Verify en Florida destinado a asustar a los trabajadores en los peores trabajos. ¿Quién llenará?

Y sí, cuando Goldstein le preguntó a ChatGPT sobre el esqueleto, lo sabía todo. Y con gran detalle.

"El esqueleto sobre el órgano de tubos en el Ayuntamiento de Oslo se conoce como el "Órgano de la Muerte" o "Dødsorgel" en noruego. El esqueleto está sentado sobre los tubos del órgano, con las manos apoyadas en las teclas del órgano. .

El esqueleto está hecho de yeso y fue creado por el artista noruego Emanuel Vigeland, a quien se le encargó decorar la sala a principios del siglo XX.

El Órgano de la Muerte está destinado a simbolizar la naturaleza fugaz de la vida y la inevitabilidad de la muerte. El órgano en sí también fue diseñado con un sonido especial para evocar una sensación de mortalidad, con tonos profundos y tristes que se dice que se asemejan a una marcha fúnebre".

Después de regresar a casa desde Noruega, Goldstein le mencionó a un cliente lo impresionado que estaba con las capacidades de "computadora mágica" de ChatGPT.

"¿Cómo sabes que es verdad?" ella respondió.

Bueno, ahora, él tenía que saber. Entonces, Goldstein envió un correo electrónico a una guía turística de Oslo con una explicación del esqueleto de ChatGPT y una solicitud de verificación de la historia del esqueleto. Se sorprendió por la respuesta que obtuvo a cambio.

"Se colocó allí como una broma del guardia nocturno para los guardias diurnos, y estuvo allí solo medio día antes de que se retirara nuevamente", dijo la respuesta. "Diría que esta 'historia' de Chat GPT muestra que no debemos confiar en lo que dice, al menos no todavía. Nada en el texto era correcto".

Goldstein me contó la historia del esqueleto de Oslo y ChatGPT, y eso me hizo querer verlo por mí mismo. Y cuando le pedí a ChatGPT que me diera la historia del esqueleto en el órgano de tubos, me dio una respuesta ficticia completamente diferente y muy detallada.

El esqueleto sobre el órgano de tubos se llama "Leif" y tiene una historia interesante que se remonta a la década de 1930, me dijo ChatGPT.

"La historia detrás de Leif se remonta a la época en que el arquitecto Arnstein Arneberg y el artista Hugo Lous Mohr estaban trabajando en el diseño del edificio.

"Según cuenta la leyenda, durante una conversación sobre el desván del órgano, Mohr sugirió en broma colocar un esqueleto allí para hacerle compañía al organista. Arneberg encontró la idea divertida y decidió incorporarla al diseño. Sin embargo, la idea no carecía por completo de significado. "

La explicación continuó con cuatro párrafos más detallados que incluían algunos significados simbólicos que la gente le ha dado al esqueleto durante décadas. Y sostuvo que no era un esqueleto humano real, sino una creación de yeso y varillas de hierro del artista Carl Nesjar, quien trabajó con Mohr en las decoraciones del edificio del ayuntamiento.

"Hoy, Leif continúa fascinando a los visitantes del Ayuntamiento de Oslo, sirviendo como una obra de arte peculiar y que invita a la reflexión", dice la explicación.

Goldstein obtuvo la respuesta de "órgano de la muerte". Y obtuve "Leif". Su historia decía que fue creada por el artista noruego Emanual Vigeland, y la mía decía que era obra de Carl Nesjar. Y ninguna de estas historias detalladas encajaba entre sí o la simple verdad.

¡Ay! No es difícil ver el lado negativo de una fuente tan autorizada de desinformación.

Hablé sobre esto con Diane Gayeski, profesora de comunicaciones estratégicas en Ithaca College. Gayeski requiere que sus estudiantes usen ChatGPT como una herramienta de investigación, al tiempo que reconoce sus limitaciones y la facilidad con la que permite la investigación descuidada y el plagio.

"Sabe cómo ser muy convincente mientras inventa cosas", dijo. "Y es muy bueno conectando puntos que no deberían estar conectados".

Usó su propia biografía en ChatGPT como ejemplo. Afirma que ganó el Premio Canciller de la Universidad Estatal de Nueva York, aunque nunca enseñó en el sistema SUNY ni ganó ese premio.

"Probablemente piense que ya debería haber ganado ese premio", dijo Gayeski.

Gayeski dijo que quiere que sus estudiantes, que a menudo se dedican a carreras en comunicaciones corporativas, usen ChatGPT como punto de partida para recopilar información.

"Por ejemplo, dame un ejemplo de una carta que pueda escribir a un donante de $100 para convertirlo en un donante de $1,000", dijo. "Es una buena manera de escribir algo en papel cuando estás mirando una pantalla en blanco".

Gayeski dijo que los profesores universitarios, así como los estudiantes, lo están usando.

"Los profesores lo utilizan para diseñar cuestionarios o para escribir programas de cursos para materias que quizás tengan que enseñar por primera vez".

Ella pone la calidad de la salida que crea en un nivel "B-menos, C-más".

"Es mejor usarlo para cosas que no puedes inventar, como responder preguntas de cálculo o formular oraciones en italiano básico", dijo.

Le pedí a ChatGPT que escribiera una columna con mi voz sobre ChatGPT.

Aquí hay un fragmento de la columna que escribió instantáneamente para mí:

"Debo admitir que, cuando me encontré por primera vez con ChatGPT, estaba escéptico. ¿Podría una máquina realmente entablar una conversación significativa y proporcionar respuestas inteligentes? Pero déjenme decirles, queridos lectores, que me sorprendió gratamente".

Déjenme decirles, queridos lectores, que no me sorprendió gratamente. En nombre del esqueleto de broma temporal en el órgano del ayuntamiento de Oslo, mi consejo es tener miedo, tener mucho miedo.

Frank Cerabino es columnista de The Palm Beach Post, parte de USA TODAY Florida Network. Puede comunicarse con él en [email protected].