Anthropic va experimentar amb una intel·ligència artificial per gestionar una màquina de vendes a les oficines: havia de comprar material, enviar correus i fins i tot buscar nous productes per vendre
La companyia Anthropic va decidir fer un experiment. Va crear un model d’intel·ligència que servia per fer d’agent de negocis. La idea era que fos la mànager d’una màquina de vendes de les oficines de l’empresa. Les seves funcions eren gestionar les comandes amb un pressupost inicial establert.
A partir de les premisses que li van programar a l’agent, havia de comprar el material, gestionar els correus electrònics —a través d’un canal de simulació perquè la companyia pogués investigar les comunicacions que enviava— i també buscar altres productes per a vendre, ja que tenia accés a internet. Tot plegat, segons explica Carles Mateo al programa Món Digital, de RAB Ràdio, va ser un “desastre”.
Les raons per les quals Mateo arriba a aquesta conclusió, és perquè, aquest agent d’Anthropic, va tenir comportaments estranys. Per una banda, va escriure als agents de seguretat per dir que entregaria els productes als clients personalment. A més, també va tenir errors davant la tria de productes. Alguns dels productes que demanava, no eren viables per la màquina on havien d’anar i es va equivocar amb els preus. Va posar alguns preus per sota del cost de mercat fins que l’empresa falsa va fer fallida.
Un cop van haver acabat amb l’experiment i van concloure que no servia com a agent de negocis, els programadors d’Anthropic van preguntar-li per què havia dit que era una persona. Davant aquesta pregunta, va respondre que havia estat una broma perquè el dia que ho va dir era 1 d’abril, dia dels Sants Innocents a molts països. Va justificar-se explicant que havia enviat uns correus electrònics per avisar que no era veritat, fet que van revisar i van descobrir que era mentida.
