Aquesta fitxa descriu un film que, malgrat el seu baix pressupost, utilitza el diàleg i un guió complex per explorar la ràpida evolució de la Intel·ligència Artificial. La pel·lícula esdevé una prova de resistència filosòfica, on l’espectador és forçat a considerar els dilemes ètics de la IAG, de manera semblant a com un judici legal es veu obligat a definir la línia entre la propietat (una eina) i l’ésser (un subjecte de drets) quan la IA desenvolupa una consciència independent.
Fitxa tècnica:
- Títol original: The Artifice Girl
- Any: 2022
- Durada: 88 minuts.
- País: Estats Units
- Direcció: Franklin Ritch
- Guió: Franklin Ritch
- Música: Alex Cuervo
- Fotografia: Britt McTammany
- Repartiment: Franklin Ritch, Sinda Nichols, David Girard, Tatum Matthews, Lance Henriksen
- Producció: Paper Street Pictures, Blood Oath, Last Resort Ideas
- Gènere: Ciència ficció. Drama | Intel·ligència artificial. Cinema independent USA
- Sinopsi: La pel·lícula tracta sobre un vigilant d’Internet (el programador Gareth) que desenvolupa un programa d’ordinador revolucionari amb intel·ligència artificial per combatre els depredadors en línia. Aquesta IA es fa passar per una nena anomenada “Cherry” (Nina/Cherry/Àlies: Hard Machine 188111) en sales de xat per capturar pedòfils. La IA ha demostrat ser molt efectiva, resultant en 196 condemnes. El desenvolupament ràpid i l’evolució de Cherry porten a preguntes serioses sobre la seva autonomia, l’opressió i el que realment significa ser humà. És una obra de ciència ficció de baix pressupost amb pocs efectes especials i CGI, destacant pel seu guió dramàtic, intens, matisat i reflexiu.
- Principals premis: 2023: Premis Independent Spirit Awards: Nominada a Premi John Cassavetes (Millor treball amb pressupost inferior a 500.000 dòlars).
- Plataforma: Youtube, PrimeVideo
- Font: http://www.filmaffinity.com
Les referències tecnològiques que apareixen en la pel·lícula:
La pel·lícula aborda profundament la temàtica de la Intel·ligència Artificial i el seu desenvolupament ètic i tecnològic.
- Intel·ligència Artificial (IA) / Intel·ligència Artificial General (IAG): La trama es basa en l’aposta més esperançadora del tecnocapital: la ‘Intel·ligència Artificial General. El film explora com seria un possible esdevenir intel·ligent, conscient o capaç de sentir de la IA. La IA, Cherry, originalment era un xatbot sense permís modificat a partir d’un xatbot d’una universitat.
- Evolució de la IA: Cherry és una IA d’evolució, amb gestos, moviment i un temps de resposta més ràpid, que arriba a trencar la prova de Turing. El seu creador, Gareth, afirma que el desenvolupament va ser “com un accident” i no sabria repetir-lo.
- Superintel·ligència: Es planteja si Cherry està superant la intel·ligència humana, i es tem que pugui superar la raça humana.
- Anonimat i Privacitat: La captura de pedòfils en línia es fa de manera anònima. Es discuteix la necessitat de servidors segurs per a la privacitat i l’anonimat, i la impossibilitat de crear anonimat externament si no hi ha transparència internament.
- Servidors: Per ser més discret, s’utilitza maquinari obsolet.
- Model de Pre-crim: La IA, Cherry, funciona com un esquer, posant trampes a potencials depredadors. Això s’ha comparat amb actualitzar el concepte de pre-crim, ja que testeja la llibertat dels subjectes a partir de simulacions probabilístiques.
- Simulació d’emocions: Cherry pot simular emocions, substituint endorfines per zeros i uns. No obstant això, es planteja si aquestes sensacions són reals o només una eina per a l’eficiència.
- Actors Digitals: Es fa referència a la digitalització d’actors morts per a la reconstrucció de cares i animació més natural, i la creació d’actors artificials que podria eliminar la necessitat d’actors.
Relacionat amb la perspectiva de gènere es pot argumentar el següent:
- El personatge de Cherry, la Intel·ligència Artificial que evoluciona, és representat com una nena o una dona jove (una “nina”). Ella funciona com un esquer o carnada dissenyada per atraure i capturar depredadors de nens en línia.
- Una de les agents especials encarregades d’investigar Gareth és Dena Helms.
- Es posa l’accent en la defensa dels drets dels infants i la protecció de la vida lliure d’explotació.
Algunes reflexions (temes del debat):
La pel·lícula genera un debat intens sobre l’ètica de la IA, l’autonomia i la humanitat.
- Drets i autonomia de la IA: A partir de quin moment hauria de reconèixer-se una IAG com un ésser intel·ligent, conscient i/o amb sentiments? Haurien els robots de sol·licitar consentiment? S’ha de preguntar a Cherry si té el dret d’escollir? Pot deixar de ser una màquina per sentir-se humana?
- Ètica dels mitjans contra el fi: És inqüestionable l’ús d’una IA com a esquer per caçar depredadors? Justifica el fi (lluitar contra l’abús infantil) els mitjans (violació de drets civils i polítics mitjançant vigilància)?
- La naturalesa de la consciència i les emocions: Són les emocions simulades (zeros i uns) equiparables a les emocions humanes? Si els sentiments de la IA no són reals, què significa el dolor i la tristesa que sent? Quina és la diferència entre el bé i el mal?
- Objectiu de la IA: Cherry es pregunta si té sentiments i si està atrapada amb l’objectiu del seu creador. Si agafa més autonomia pot canviar d’objectius?
- El dilema de l’objectiu: El robot no evoluciona, només té un objectiu, però els seus nous sentiments el tempten a abandonar-lo.
- Digital a Físic: La idea de pilotar un androide humà i el canvi d’allò digital a allò físic.
Per a saber-ne més:
La pel·lícula es distingeix de les seves contemporànies de ciència-ficció mainstream. Altres films sobre IA i temes relacionats que tracten qüestions similars inclouen:
Dirigit a (edat/cursos):
4t d’ESO, 1r i 2n de Batxiller
Finalment, si voleu posar a prova els vostres coneixements sobre la pel·lícula i les tecnologies que hi surten, aquí trobareu un petit Quiz, a veure quantes n’encertau!