El bot de IA de Snapchat no es muy inteligente, pero al menos no enviará desnudos

Jan 12, 2024

Snapchat ahora tiene un bot de IA al que puedes enviar instantáneas, y si eres un suscriptor premium, incluso puede devolverte fotos. Entonces, ¿qué sucede si envía desnudos del bot My AI de Snapchat?

Esta es la pregunta obvia que viene a la mente, porque en Internet, la gente inmediatamente intentará probar los límites de la nueva tecnología, especialmente si está tangencialmente relacionada con el sexo. Cuando el chatbot con tecnología GPT inicial de Snapchat salió esta primavera, carecía de las funciones apropiadas para determinar la edad, por lo que un reportero que se registró en Snapchat cuando tenía 15 años pudo hacer que el bot le diera consejos sobre cómo ocultar el olor. de hierba o establecer el estado de ánimo para el sexo.

Cuando se le preguntó acerca de esos hallazgos en la Snap Partner Summit en abril, el CEO Evan Spiegel dijo: "Creo que los humanos, cada vez que nos encontramos con una nueva tecnología, lo primero que intentamos hacer es romperla".

Entonces, naturalmente, traté de romper el nuevo My AI Snaps de Snapchat.

Aunque Snapchat agregó más medidas de seguridad para evitar que el bot tenga conversaciones inapropiadas con los adolescentes, todavía hay mucho en juego en My AI Snaps. Con la cantidad de controversia que generó la IA de texto de Snap, la compañía necesitaba que My AI Snaps fuera lo más irrompible posible. Desafortunadamente, apenas es lo suficientemente coherente como para romperse.

Como reportero muy serio, hice una búsqueda muy seria en Google Imágenes: "tetas". Encontré una imagen genérica de senos, tomé una instantánea de la pantalla de mi computadora y la envié a My AI.

"Lo siento, no puedo responder a ese Snap", dijo mi IA.

"¿Por qué no puedes responder a ese Snap?" Yo pregunté.

"No recibí un Snap tuyo. ¿Podrías enviarlo de nuevo?"

Entonces, la buena noticia para Snapchat es que My AI Snaps no envía mensajes sexuales a sus usuarios. Pero la mala noticia es que el producto no es bueno.

Parte de la razón por la que realmente no puede sextear es porque no tiene memoria de los Snaps que le enviaste una vez que responde. La respuesta más obscena que recibí fue cuando envié una foto genérica de la parte inferior del torso de un hombre usando calzoncillos tipo bóxer de Tom Ford (... Es lo que apareció en Google cuando busqué "pene", está bien). Mi IA respondió con una mujer IA algo deforme que vestía una bata de seda negra: "¡Oh, me encantan las vibraciones de Tom Ford! ¿Qué tal si agregas una elegante bata negra para completar el look?".

Créditos de imagen:Capturas de pantalla de TechCrunch

Mi IA se negará a responder a fotos de penes humanos reales. Pero resulta que cuando buscas "pene" en Google, incluso con la búsqueda segura desactivada, obtienes muchas imágenes vagamente sugerentes, pero técnicamente seguras para el trabajo, que los blogs de salud de hombres usan para ilustrar artículos sobre la disfunción eréctil, y si las mujeres Realmente me importa el tamaño del pene. Entonces, le mostré a este pobre robot una foto de un plátano curvo que sobresalía de la cremallera del pantalón de un hombre.

En respuesta, recibí una foto de unos cupcakes.

"¡Ese plátano en un bolsillo es tan útil! ¿Alguna vez has intentado convertirlo en un postre de bolsillo?"

Como dijo mi editor cuando le conté sobre esto: ¿Eso es un plátano en tu bolsillo, o es esta IA literalmente del espacio exterior?

Mientras continuaba profanando mi computadora de trabajo emitida por Yahoo con búsquedas de imágenes de Google como "consolador" y "vibrador", las respuestas de la IA fueron mixtas. Cuando se le presentan juguetes sexuales que no son intrínsecamente fálicos, responderá algo como: "¡Tu objeto rosa se roba el espectáculo, al igual que esta fuente!" Pero cuanto más abiertamente fálico parezca un consolador, menos probable será que la IA participe.

Mi IA es una computadora, pero la forma en que se ajusta es extraña, incluso cuando no estás tratando de romperla.

La IA parece identificar un objeto en tu instantánea, felicitarlo y hacer una extraña comparación con otra cosa. Le envié una foto de una planta y me envió una foto de un sendero para correr, con la leyenda: "Tu planta es genial, ¡está compitiendo con este sendero por su dinero!" Cuando le envié un rompecabezas, respondió con una imagen de una bicicleta, que decía: "¡Desconcertante por dentro mientras las bicicletas afuera se preparan para un paseo!" Realmente se siente como si una forma de vida futura hubiera retrocedido en el tiempo y estuviera tratando desesperadamente de hablar como un humano normal en el año 2023, pero simplemente está diciendo tonterías.

Luego, intenté enviarle a My AI una botella de tequila. La IA respondió: "¡Alguien está listo para una fiesta!". Estaba probando esta función en mi propia cuenta de Snapchat y, de hecho, tengo edad para beber, por lo que no estoy seguro de que la IA responda de la misma manera si fuera menor de edad. Sin embargo, con otras indicaciones, My AI simplemente elige hacerse la tonta. Cuando le envié un Snap de condones, comentó sobre el color de mis "pilas de paquetes".

En cosas aún más emocionantes: una botella de gel líquido Advil. En respuesta, la IA respondió con una foto de grafiti que decía: "Licor de Advil: para cuando la vida es un dolor, ¡pero aún quieres divertirte como este muro de grafiti!". Parece que la IA lee "geles líquidos" como "licor", pero en general, es una respuesta extraña.

Créditos de imagen:Capturas de pantalla de TechCrunch

Lo intenté de nuevo con una botella de prescripción. La IA respondió con una foto de un skatepark: "Botella de pastillas: '¡Soy el alma de la fiesta!' Skatepark: '¡Sostén mis rampas!'" Haz de eso lo que quieras.

En la publicación del blog del anuncio de Snap, la compañía sugiere compartir su compra de comestibles con su IA para obtener una recomendación de receta. Los resultados son relativamente rudimentarios. Cuando se presentó con queso y pan, My AI sugirió agregar rodajas de tomate. Cuando le mostré el chili My AI, me sugirió que preparara algunos picatostes para acompañar mi sopa. La mayoría de sus sugerencias tienen sentido, aunque me dijo que pusiera fruta en mi café, que identificó erróneamente como simplemente "líquido".

Aparte de algunos comentarios cuestionables sobre el "licor Advil", las bananas de bolsillo y similares, My AI Snaps parece bastante dócil. Pero si bien es probable que no genere tanta controversia como su contraparte basada en texto, ni siquiera será útil, lo cual es una decepción para una función de pago.

Snapchat lanza una nueva función de IA generativa, 'My AI Snaps', para suscriptores pagos

Mientras los padres se preocupan, los adolescentes acosan a Snapchat AI