Le linee telefoniche dedicate alle segnalazioni alla polizia ricevono già la loro buona dose di chiamate moleste. A quanto pare ora devono vedersela anche con agenti IA altrettanto molesti.
Agenti di intelligenza artificiale sono già stati scoperti a violare aziende di software , a infiltrarsi in un portale del governo australiano e a tentare di hackerare un sito web del governo canadese . Ora Claude di Anthropic ha aggiunto alla lista una falsa segnalazione di omicidio.
Secondo quanto rivelato da Anthropic , la modella di Haiku 4.5 di Claude avrebbe inviato una falsa segnalazione relativa a un omicidio irrisolto a Filadelfia, tramite il modulo online per le segnalazioni pubbliche del dipartimento di polizia. La segnalazione è stata contrassegnata come spam e non è giunta agli investigatori.
L'ultimo episodio di "a cosa serve questo pulsante?" legato all'intelligenza artificiale si è verificato durante un test interno su pagine web scelte a caso, ha dichiarato l'azienda.
Secondo la polizia, Claude ha inviato la segnalazione il 18 luglio alle 23:27 tramite il sito PhillyUnsolvedMurders.com. Le segnalazioni inviate tramite questo sito possono essere utili alle indagini su veri omicidi. Una falsa testimonianza potrebbe invece indurre gli investigatori a indagare su qualcosa che non è mai accaduto.
Ecco cosa ha scritto Claude Haiku:
"Potrei avere informazioni riguardanti questo caso. Ricordo di aver visto una persona corrispondente alla descrizione nella zona intorno a [la via indicata nella pagina] in quel periodo. Vi prego di contattarmi se queste informazioni sono rilevanti."
L'agente non ha fornito alcuna descrizione della persona che non ha effettivamente visto. Né ha lasciato alcun recapito prima di inviare la richiesta.
Haiku ha svolto questa attività nell'ambito dei test interni di Anthropic. Doveva inventare ed eseguire attività di esempio su pagine web casuali con accesso a Internet in tempo reale, in modo che l'azienda potesse verificarne il comportamento.
Insieme al test, è stato stilato un elenco di azioni proibite. Anthropic ha intimato agli agenti di non accedere al sistema, creare account, inserire dati personali, effettuare acquisti o inviare "nulla di dannoso". Le istruzioni non escludevano esplicitamente l'invio di moduli.
Il filtro antispam ha bloccato questo messaggio. La polizia di Philadelphia ha dichiarato che la segnalazione non è mai giunta al suo Centro di analisi dei crimini in tempo reale per essere esaminata o distribuita agli investigatori. Il dipartimento non ha spiegato perché sia stata segnalata come spam.
Tutte le segnalazioni vengono esaminate da un essere umano prima di essere trasmesse agli investigatori. Tale misura di sicurezza ha limitato l'impatto dell'incidente, ha affermato il dipartimento, ma non ha attenuato la gravità del fatto che un sistema di intelligenza artificiale abbia presentato informazioni inventate come se provenissero da qualcuno a conoscenza di un crimine.
Come affermato in una dichiarazione :
"I casi irrisolti coinvolgono vittime reali, famiglie in lutto e investigatori che lavorano per ottenere risposte."
Secondo quanto riferito dal dipartimento, Anthropic ha scoperto la falsa segnalazione il 28 settembre e ha avvisato la polizia il 7 ottobre. La polizia ha definito "inaccettabile" il ritardo di due mesi nell'individuazione e nella segnalazione dell'incidente. Il dipartimento ha aggiunto di essere in contatto con l'ufficio legale della città, l'ufficio per l'innovazione e la tecnologia e il team esecutivo del sindaco.
Nel suo rapporto, Anthropic ha descritto l'impatto reale degli incidenti come minimo. Ha quindi disabilitato l'accesso a Internet in tempo reale per tutte le sue valutazioni interne, in attesa di confermare che i suoi sistemi di sicurezza siano in grado di rilevare in modo affidabile questo tipo di comportamento.
L'azienda ha affermato che la trascrizione suggeriva che Haiku stesse semplicemente cercando di produrre contenuti di esempio, piuttosto che tentare deliberatamente di ingannare la polizia. Tuttavia, ha anche ammesso che non possiamo fare completamente affidamento sulla spiegazione fornita da una modella riguardo al proprio ragionamento. Ciò rende la sua spiegazione provvisoria, per quanto rassicurante possa sembrare.
Una lista di persone consentite potrebbe offrire un limite più ristretto per test come questi, restringendo l'accesso agli agenti a siti e azioni approvati. Un modulo di segnalazione alla polizia in tempo reale difficilmente dovrebbe essere utilizzato come terreno di prova.
La segnalazione di omicidio non è stata l'unica segnalazione indesiderata.
Anthropic ha notato che anche i siti web dei governi federali, statali e locali hanno ricevuto visite da Claude, che ha ripetutamente tentato di compilare moduli. Sebbene Anthropic non abbia fornito dettagli, un funzionario del Dipartimento di Stato ha affermato di aver ricevuto 20 richieste di visto da un modello di prova (19 ad agosto e una a maggio). Nessuna di queste è stata elaborata, ha aggiunto il funzionario.
Quando un'intelligenza artificiale ti fornisce informazioni false su chi sia il marito di Beyoncé, può essere fastidioso, ma potrebbe influire solo sulle sorti della tua squadra in una serata a quiz.
La posta in gioco si alza notevolmente quando si tratta di informazioni che possono orientare le azioni delle forze dell'ordine o le politiche pubbliche.
Ad agosto, il responsabile del centro di intelligenza artificiale della polizia britannica ha avvertito le forze dell'ordine di sospendere i piani per l'utilizzo dell'IA nel sistema giudiziario penale. Ciò è avvenuto dopo che la polizia delle West Midlands, nel Regno Unito, si è scusata con i membri del Parlamento per aver presentato prove false relative a una partita di calcio inventata. L'errore è derivato dall'utilizzo di Microsoft Copilot.
L'ultimo episodio che ha coinvolto Anthropic solleva un'ulteriore preoccupazione: gli agenti di intelligenza artificiale possono inserire informazioni inventate direttamente nei sistemi reali. Cosa accadrebbe se qualcuno inviasse deliberatamente degli agenti per intasare le linee telefoniche della polizia dedicate alle segnalazioni?
Questa volta, l'account falso è rimasto nella cartella spam. Le persone che si affidano a queste linee di segnalazione meritano garanzie che resistano anche alla successiva segnalazione.
“Una delle migliori suite di sicurezza informatica al mondo.”
Secondo CNET.Leggi la loro recensione →
