Connect with us

Tecnologia

Cybercrime: fai attenzione a quello che dici al tuo chatbot helper… | Chatbot

Published

on

CLe notizie sulle crescenti capacità dei chatbot addestrati su modelli di linguaggio di grandi dimensioni, come GPT-4 di OpenAI, Bard di Google e Bing Chat di Microsoft, stanno facendo notizia. Gli esperti avvertono della loro capacità di diffondere disinformazione su scala monumentale, nonché del rischio esistenziale che il loro sviluppo potrebbe rappresentare per l’umanità. Come se ciò non fosse abbastanza preoccupante, si è aperta una terza area di preoccupazione, illustrata dal recente divieto di ChatGPT in Italia per motivi di privacy.

Il regolatore italiano dei dati ha espresso preoccupazione per il modello utilizzato dal proprietario di ChatGPT OpenAI e ha annunciato che avrebbe indagato se l’azienda avesse infranto le rigide leggi europee sulla protezione dei dati.

I chatbot possono essere utili per il lavoro e le attività personali, ma raccolgono grandi quantità di dati. L’intelligenza artificiale pone anche molteplici rischi per la sicurezza, inclusa la capacità di aiutare i criminali a eseguire attacchi informatici più convincenti ed efficaci.

I chatbot sono un problema di privacy maggiore rispetto ai motori di ricerca?

La maggior parte delle persone è consapevole dei rischi per la privacy posti dai motori di ricerca come Google, ma gli esperti ritengono che i chatbot potrebbero essere ancora più affamati di dati. La loro natura colloquiale può cogliere le persone alla sprovvista e incoraggiarle a fornire più informazioni di quante ne avrebbero inserite in un motore di ricerca. “Lo stile umano può essere disarmante per gli utenti”, avverte Ali Vaziri, direttore legale del team di dati e privacy presso lo studio legale Lewis Silkin.

I chatbot in genere raccolgono testo, voce e informazioni sul dispositivo, nonché dati che possono rivelare la tua posizione, come il tuo indirizzo IP. Come i motori di ricerca, i chatbot raccolgono dati come l’attività sui social media, che possono essere collegati al tuo indirizzo e-mail e numero di telefono, afferma il dott. Lucian Tipi, preside associato della Birmingham City University. “Man mano che l’elaborazione dei dati migliora, aumenta anche la necessità di maggiori informazioni e qualsiasi cosa dal Web diventa un gioco leale”.

Sebbene le aziende dietro i chatbot affermino che i tuoi dati sono necessari per migliorare i servizi, possono anche essere utilizzati per pubblicità mirata. Ogni volta che chiedi aiuto a un chatbot di intelligenza artificiale, i microcalcoli alimentano l’algoritmo per profilare le persone, afferma Jake Moore, consulente per la sicurezza informatica globale presso la società di software ESET. “Questi identificatori vengono analizzati e potrebbero essere utilizzati per indirizzarci con pubblicità”.

Questo sta già iniziando a succedere. Microsoft ha annunciato che sta esplorando l’idea di portare annunci su Bing Chat. Recentemente è inoltre emerso che il personale Microsoft può leggere le conversazioni dei chatbot degli utenti e l’azienda statunitense ha aggiornato la propria politica sulla privacy per riflettere ciò.

La politica sulla privacy di ChatGPT “non sembra aprire la porta allo sfruttamento commerciale dei dati personali”, afferma Ron Moscona, partner dello studio legale Dorsey & Whitney. La politica “promette di proteggere i dati delle persone” e di non condividerli con terze parti, afferma.

Tuttavia, mentre Google si impegna anche a non condividere informazioni con terze parti, la politica sulla privacy più ampia dell’azienda tecnologica le consente di utilizzare i dati per offrire pubblicità mirata agli utenti.

Come puoi utilizzare i chatbot in modo privato e sicuro?

È difficile utilizzare i chatbot in modo privato e sicuro, ma ci sono modi per limitare la quantità di dati che raccolgono. È una buona idea, ad esempio, utilizzare una VPN come ExpressVPN o NordVPN per mascherare il tuo indirizzo IP.

In questa fase, la tecnologia è troppo nuova e grezza per essere sicura che sia privata e sicura, afferma Will Richmond-Coggan, specialista di dati, privacy e intelligenza artificiale presso lo studio legale Freeths. Dice che dovrebbe essere prestata “notevole cura” prima di condividere qualsiasi dato, specialmente se le informazioni sono sensibili o legate all’azienda.

La natura di un chatbot significa che rivelerà sempre informazioni sull’utente, indipendentemente da come viene utilizzato il servizio, afferma Moscona. “Anche se utilizzi un chatbot tramite un account anonimo o una VPN, i contenuti che fornisci nel tempo potrebbero rivelare informazioni sufficienti per essere identificati o rintracciati.”

Ma le aziende tecnologiche che sostengono i loro prodotti chatbot affermano che puoi usarli in sicurezza. Microsoft afferma che la sua Bing Chat è “premurosa su come utilizza i tuoi dati” per fornire una buona esperienza e “mantenere le politiche e le protezioni dalla ricerca tradizionale in Bing”.

Microsoft protegge la privacy tramite tecnologie come la crittografia e archivia e conserva le informazioni solo per il tempo necessario. Microsoft offre anche il controllo sui dati di ricerca tramite il dashboard per la privacy di Microsoft.

Il creatore di ChatGPT OpenAI afferma di aver addestrato il modello a rifiutare richieste inappropriate. “Utilizziamo i nostri strumenti di moderazione per avvisare o bloccare determinati tipi di contenuti non sicuri e sensibili”, aggiunge un portavoce.

Che ne dici di utilizzare i chatbot per aiutare con le attività lavorative?

I chatbot possono essere utili al lavoro, ma gli esperti consigliano di procedere con cautela per evitare di condividere troppe informazioni e di violare normative come l’aggiornamento dell’UE al regolamento generale sulla protezione dei dati (GDPR). È con questo in mente che aziende come JP Morgan e Amazon hanno vietato o limitato l’uso di ChatGPT da parte del personale.

Il rischio è così grande che gli stessi sviluppatori ne sconsigliano l’uso. “Non siamo in grado di eliminare messaggi specifici dalla tua cronologia”, affermano le FAQ di ChatGPT. “Per favore, non condividere informazioni sensibili nelle tue conversazioni.”

L’utilizzo di strumenti di chatbot gratuiti per scopi commerciali “potrebbe essere poco saggio”, afferma Moscona. “La versione gratuita di ChatGPT non dà garanzie chiare e univoche su come proteggerà la sicurezza delle chat, o la riservatezza dell’input e dell’output generato dal chatbot. Sebbene i termini di utilizzo riconoscano la proprietà dell’utente e la politica sulla privacy prometta di proteggere le informazioni personali, sono vaghi sulla sicurezza delle informazioni.

Microsoft afferma che Bing può aiutare con le attività lavorative, ma “non raccomanderemmo di fornire informazioni riservate dell’azienda a nessun servizio per i consumatori”.

Se devi usarne uno, gli esperti consigliano cautela. “Segui le politiche di sicurezza della tua azienda e non condividere mai informazioni sensibili o riservate”, afferma Nik Nicholas, CEO della società di consulenza sui dati Covelent.

Microsoft offre un prodotto chiamato Copilot per uso aziendale, che adotta le politiche di sicurezza, conformità e privacy più rigorose dell’azienda per il suo prodotto aziendale Microsoft 365.

Come posso individuare malware, e-mail o altri contenuti dannosi generati da malintenzionati o IA?

Man mano che i chatbot vengono incorporati in Internet e nei social media, le possibilità di diventare vittima di malware o e-mail dannose aumenteranno. Il National Cyber ​​Security Centre (NCSC) del Regno Unito ha messo in guardia sui rischi dei chatbot IA, affermando che la tecnologia che li alimenta potrebbe essere utilizzata negli attacchi informatici.

Gli esperti affermano che ChatGPT e i suoi concorrenti hanno il potenziale per consentire ai malintenzionati di costruire operazioni di posta elettronica di phishing più sofisticate. Ad esempio, la generazione di e-mail in varie lingue sarà semplice, quindi i segni rivelatori di messaggi fraudolenti come errori grammaticali e ortografici saranno meno evidenti.

Con questo in mente, gli esperti consigliano di essere più vigili che mai facendo clic sui collegamenti o scaricando allegati da fonti sconosciute. Come al solito, Nicholas consiglia di utilizzare un software di sicurezza e di mantenerlo aggiornato per proteggersi dai malware.

Il linguaggio può essere impeccabile, ma il contenuto del chatbot può spesso contenere errori fattuali o informazioni non aggiornate e questo potrebbe essere un segno di un mittente non umano. Può anche avere uno stile di scrittura blando e formulaico, ma questo può aiutare piuttosto che ostacolare il cattivo attore bot quando si tratta di passare come comunicazione ufficiale.

I servizi abilitati all’intelligenza artificiale stanno rapidamente emergendo e man mano che si sviluppano, i rischi aumenteranno. Gli esperti affermano che strumenti come ChatGPT possono essere utilizzati per aiutare i criminali informatici a scrivere malware e vi sono preoccupazioni circa la divulgazione su Internet di informazioni sensibili immesse nei servizi abilitati alla chat. Altre forme di IA generativa – IA in grado di produrre contenuti come voce, testo o immagini – potrebbero offrire ai criminali la possibilità di creare video cosiddetti deepfake più realistici imitando, ad esempio, un impiegato di banca che chiede una password.

Ironia della sorte, sono gli umani che sono più bravi a individuare questi tipi di minacce abilitate dall’intelligenza artificiale. “La migliore protezione contro il malware e l’intelligenza artificiale dei malintenzionati è la tua stessa vigilanza”, afferma Richmond-Coggan.

Source link

Continue Reading
Click to comment

Leave a Reply

Your email address will not be published. Required fields are marked *

Tecnologia

Elon Musk afferma che Twitter cambierà il logo da uccello a X | Cinguettio

Published

on

By

Elon Musk ha annunciato domenica che il nuovo logo di Twitter, una X, sarebbe andato in onda, sostituendo il caratteristico logo dell’uccello in quella che sarebbe stata l’ultima di una serie di controverse modifiche alla piattaforma dei social media sotto la sua guida.

“X.com ora punta a twitter.com”, l’amministratore delegato di Tesla ha twittato domenica pomeriggio. “Il logo Interim X verrà pubblicato più tardi oggi.”

Musk, che ha acquistato il sito per 44 miliardi di dollari (34 miliardi di sterline) lo scorso ottobre, ha twittato nelle prime ore di domenica che intendeva sostituire la sagoma aviaria blu con un logo “X” entro lunedì se fosse stato offerto un design adatto.

Musk ha cambiato il nome ufficiale della società ad aprile in X Holdings Corp, dopo la sua prima impresa X.com, per riflettere la sua visione di creare “X, l’app di tutto” che svolge funzioni di social media e di pagamento, simili a WeChat in Cina.

Se il rebranding va avanti, sarà l’ultimo esempio della tendenza di Musk ad annunciare grandi e controversi cambiamenti al sito apparentemente sullo zoccolo sul suo feed pubblico, con risultati contrastanti.

Il cambiamento creerà molta confusione per un’enorme fetta di utenti di Twitter, che si sono già inaspriti sulla piattaforma social a causa di una serie di altri importanti cambiamenti che Musk ha apportato, ha affermato Allen Adamson, co-fondatore della società di consulenza di marketing Metaforce.

“Non lo capiranno”, ha detto. “È la degna conclusione di un fenomenale svolgimento di un marchio e di un’azienda iconici”.

L’amministratore delegato di Twitter, Linda Yaccarino, ha confermato domenica il lancio del marchio X. Ha twittato: “È una cosa eccezionalmente rara – nella vita o negli affari – avere una seconda possibilità per fare un’altra grande impressione. Twitter ha fatto una grande impressione e ha cambiato il modo in cui comunichiamo. Ora, X andrà oltre, trasformando la piazza cittadina globale”.

Yaccarino ha affermato che X sarà “centrato su audio, video, messaggistica, pagamenti/attività bancarie” e sarà un “mercato globale per idee, beni, servizi e opportunità”. Ha aggiunto: “X sarà la piattaforma in grado di fornire, beh … tutto”.

Non c’è assolutamente limite a questa trasformazione. X sarà la piattaforma in grado di fornire, beh… tutto. @Elon Musk e non vedo l’ora di lavorare con i nostri team e ognuno dei nostri partner per portare X nel mondo.

— Linda Yaccarino (@lindayacc) 23 luglio 2023

Nonostante abbia licenziato metà del personale della società dopo l’acquisizione, Musk ha rivelato nei giorni scorsi che rimane negativo per il flusso di cassa con un pesante onere del debito, dopo aver perso metà delle sue entrate pubblicitarie, facendo fallire i suoi piani per diventare positivo per il flusso di cassa entro giugno.

Molti inserzionisti hanno lasciato la piattaforma poco dopo che Musk ha rilevato l’azienda, temendo danni ai loro marchi nel caos iniziale. Hanno ridotto la spesa pubblicitaria in parte a causa delle preoccupazioni per i cambiamenti apportati dal nuovo proprietario che hanno consentito il fiorire di contenuti più odiosi. Una motivazione chiave alla base della nomina di Yaccarino, un rispettato dirigente pubblicitario, era quella di corteggiare gli inserzionisti che hanno sospeso la spesa sulla piattaforma o l’hanno frenata in modo significativo.

Le mosse di Musk, come l’eliminazione delle vecchie “spunte blu” degli utenti i cui account sono stati verificati come autentici, consentendo ad altri di pagare per il privilegio, hanno spesso ricevuto critiche e sono state riviste o annullate dopo un contraccolpo.

Un piano per modificare la sequenza temporale “per te” per mostrare solo gli account a pagamento è stato eliminato entro pochi giorni dal suo annuncio. Nel frattempo, il suo recente passaggio per limitare la quantità di contenuti che gli utenti possono visualizzare ogni giorno per affrontare gli account bot è stato visto come un rafforzamento della crescita del servizio rivale di Meta, Threads, che è stato lanciato all’inizio di questo mese.

Threads, che viene pubblicizzato come una versione testuale dell’Instagram di Meta che secondo la società offre “un nuovo spazio separato per aggiornamenti in tempo reale e conversazioni pubbliche”, ha raccolto 100 milioni di iscrizioni nei suoi primi cinque giorni.

La prevista rimozione del logo di Twitter è stata rivelata per la prima volta, come prevedibile, sull’account di Musk, quando lui twittato: “E presto diremo addio al marchio Twitter e, gradualmente, a tutti gli uccelli”.

Un post successivo aggiunto: “Se stasera viene pubblicato un logo X abbastanza buono, ce la faremo [it] vai in diretta in tutto il mondo domani.

Musk ha inoltre affermato che il suo ragionamento per cambiare il simbolo era “incarnare in noi tutte le imperfezioni che ci rendono unici”. Ha anche postato una foto di se stesso che crea un simbolo “X” con le braccia incrociate davanti a un poster per l’auto Tesla Model X, con la didascalia: “Non sono sicuro di quali sottili indizi lo abbiano rivelato, ma mi piace la lettera X”.

salta la promozione della newsletter precedente

La raffica di tweet ha fatto seguito a un sondaggio che aveva pubblicato chiedendo se avrebbe dovuto cambiare la combinazione di colori blu pallido predefinita del sito in nero. Al momento della pubblicazione, tre quarti degli intervistati avevano sostenuto un passaggio.

Twitter non ha risposto immediatamente a una richiesta di commento.

Il sito web di Twitter dice il suo logo, raffigurante il blu “Larry T Uccello” come lo ha chiamato il co-fondatore di Twitter Biz Stone, è “la nostra risorsa più riconoscibile”, aggiungendo: “Ecco perché siamo così protettivi nei suoi confronti”.

L’associazione del sito con un uccello è stata precedentemente spiegata dal co-fondatore Jack Dorsey nelle interviste con la sua scoperta che la definizione del dizionario di “twitter” era una “breve esplosione di informazioni insignificante; cinguettii degli uccelli”.

Tuttavia, ad aprile è stato brevemente sostituito da un cane shiba inu, il simbolo della criptovaluta dogecoin, contribuendo a far aumentare il valore di mercato della moneta meme.

Resta da vedere se il logo cambierà definitivamente in una X, data la storia irregolare di Musk nel mantenere le sue promesse su Twitter.

Si è impegnato a sostenere i risultati di un sondaggio su Twitter lo scorso dicembre chiedendo se dovrebbe continuare come amministratore delegato del sito. Diversi giorni dopo che gli utenti gli avevano detto di dimettersi, alla fine ha suggerito che lo avrebbe fatto solo dopo aver trovato qualcuno “abbastanza sciocco da accettare il lavoro”. L’ex dirigente di NBCUniversal Linda Yaccarino è stata confermata nel ruolo a maggio.

Se Musk finisce per sostituire l’uccellino di Twitter con una X, non sarebbe la prima volta che la piattaforma subisce una sorta di rebranding.

Dorsey ha dichiarato nel 2018 che il file la società a un certo punto è stata brevemente conosciuta come “twttr” prima che la compagnia “aggiungesse le vocali”.

Source link

Continue Reading

Tecnologia

La gigafactory di Tata dà finalmente il potenziale all’industria britannica delle batterie | Industria automobilistica

Published

on

By

Fla Francia ne ha quattro. La Germania ne ha nove. Gli Stati Uniti ne hanno 34. La Cina ne ha uno sbalorditivo 283. In tutto il mondo, i paesi stanno correndo per annunciare piani per enormi gigafabbriche per fornire le batterie per alimentare l’era delle auto elettriche.

Al contrario, la presenza di un solo grande progetto di gigafactory nel Regno Unito con grandi finanziatori – la fornitura di Nissan a Sunderland – stava diventando sempre più allarmante. La situazione è cambiata la scorsa settimana quando il proprietario di Jaguar Land Rover, Tata Group, ha scelto il Regno Unito per una nuova fabbrica di batterie da 4 miliardi di sterline. Aveva considerato un sito rivale in Spagna per l’impianto.

La decisione conta come una vittoria per il Regno Unito, che ha impegnato sussidi fino a 500 milioni di sterline e porterà nuovi posti di lavoro, probabilmente in un sito vicino a Bridgwater nel Somerset. Eppure il governo e l’industria hanno gli occhi puntati su un premio più grande: sperano che l’investimento stimolerà una maggiore spesa in una catena di fornitura di batterie più ampia e più gigafabbriche.

Ian Constance, amministratore delegato dell’Advanced Propulsion Center, l’ente che gestisce i sussidi automobilistici del governo, ha affermato di ritenere che la decisione di Tata spingerebbe altre società a scegliere il Regno Unito per investimenti in gigafabbriche e fornitori di materiali.

“Abbiamo altri investimenti in gigafactory in cantiere con cui stiamo parlando”, ha detto. “Questo rafforzerà solo il caso.”

Constance ha rifiutato di fornire dettagli su quanto fossero avanzati quei colloqui, ma ha detto che ce n’era “più di uno” e che erano “internazionali” piuttosto che con sede nel Regno Unito. Solo un’altra società ha dichiarato pubblicamente l’intenzione di costruire una gigafactory: l’australiana Recharge Industries, una startup che non ha ancora ottenuto finanziamenti importanti che ha acquistato i resti di Britishvolt, un’azienda fallita con un progetto di fabbrica nel Northumberland.

L’investimento di Tata “è il passo successivo nella creazione della domanda per i livelli successivi di cose nella catena di approvvigionamento”, ha affermato Constance. “Anche se abbiamo svolto molto lavoro in background, è davvero difficile ottenere quegli investimenti senza un segnale di domanda”.

L’impianto di Tata mirerà a produrre 40 gigawattora (GWh) di capacità della batteria all’anno, sufficienti per alimentare centinaia di migliaia di automobili.

Rishi Sunak ha segnalato l’importanza dell’investimento mercoledì scorso portando un elicottero al centro di design di Jaguar Land Rover a Gaydon, nel Warwickshire, per incontrare il capo di Tata, Natarajan Chandrasekaran.

Tuttavia, le cateratte dei sussidi non sono completamente aperte: il governo avrebbe snobbato le richieste finanziarie di AMTE Power, un’azienda in difficoltà che mira a costruire una fabbrica di batterie a Dundee.

Il governo del Regno Unito e molti nell’industria automobilistica britannica hanno a lungo temuto che, senza un numero sufficiente di gigafabbriche, il Regno Unito potesse perdere molti dei quasi 100.000 posti di lavoro legati alla produzione di automobili e motori a combustione interna.

Alcuni di questi posti di lavoro sono stati protetti dall’impegno a passare alla tecnologia elettrica, come nello stabilimento Ford di Halewood, nel Merseyside, e nello stabilimento Vauxhall di Stellantis a Ellesmere Port. Altri ancora, in particolare le fabbriche di motori a benzina e diesel come Ford a Dagenham e Toyota a Deeside, faranno sempre più affidamento sulle esportazioni mentre il Regno Unito si avvicina al divieto di vendita di nuovi veicoli a combustione interna nel 2035.

“La dimensione della gigafactory Tata è molto consistente”, ha affermato David Greenwood, professore di sistemi di propulsione avanzati presso il Warwick Manufacturing Group, parte dell’Università di Warwick. “Spinge davvero l’industria delle batterie del Regno Unito al di sopra della massa critica affinché le società della catena di approvvigionamento inizino a stabilirsi nel Regno Unito”.

Greenwood ha affermato che l’investimento di Tata potrebbe avviare un “circolo virtuoso” in cui ha attirato fornitori, il che a sua volta ha reso più probabile che altri produttori di celle per batterie scegliessero il Regno Unito.

Una foto di un esempio di un modulo batteria davanti a un modello in scala della prevista gigafactory di batterie Tata, che dovrebbe essere costruita nel Somerset.
Un esempio di un modulo batteria davanti a un modello in scala della prevista gigafactory di batterie Tata, che dovrebbe essere costruita nel Somerset. Fotografia: Jasper Jolly/The Guardian

L’unica gigafactory esistente nel Regno Unito dimostra che può funzionare. La società di proprietà cinese AESC fornisce batterie per le auto Nissan Leaf prodotte in uno stabilimento vicino a Sunderland e ha in programma di espandersi da 1,8 GWh di capacità all’anno fino a 38 GWh. AESC ha affermato nei suoi ultimi resoconti britannici che stava cercando di “localizzare” i materiali chiave il più possibile.

La società ha aggiunto che un “componente chiave”, gli involucri dei moduli, è stato “localizzato da un fornitore giapponese a un fornitore del Regno Unito” nel 2021. “Sono in corso anche discussioni con fornitori britannici ed europei per ulteriori opportunità di localizzazione a lungo termine”, affermano i conti. La società ha rifiutato di commentare l’identità del fornitore.

L’impianto di Tata significherà che la fornitura di batterie alle fabbriche automobilistiche del Regno Unito sarà ampiamente coperta, a meno che il Regno Unito non possa espandere la produzione in modo significativo oltre 1 milione di veicoli all’anno. Mini e Rolls-Royce utilizzeranno batterie BMW dalla Germania; Stellantis riceverà le batterie dalla Francia; Bentley arriverà anche dalla Volkswagen in Germania. Ciò lascia solo lo stabilimento Toyota di Burnaston, nel Derbyshire, senza un ovvio fornitore di batterie.

Tuttavia, alcuni nel settore ritengono che il Regno Unito avrà bisogno di attrarre molte altre gigafabbriche per diventare qualcosa di più di un piccolo attore nel settore globale. Nel 2030, il Regno Unito avrà una capacità di 66 GWh, rispetto a 1.176 GWh negli Stati Uniti e 325 GWh in Germania, secondo l’analista di batterie Benchmark Minerals.

Simon Moores, amministratore delegato di Benchmark, afferma che il Regno Unito ha bisogno di almeno altre tre gigafabbriche per iniziare a sostituire la produzione britannica di motori a combustione interna e automobili e per soddisfare la crescente domanda di batterie stazionarie utilizzate per alimentare le case o l’industria.

“Tata è una grande notizia, ma il lavoro è appena iniziato”, ha detto.

Source link

Continue Reading

Tecnologia

Territorio inesplorato: le app per fidanzate AI promuovono aspettative malsane per le relazioni umane? | Intelligenza artificiale (AI)

Published

on

By

“Controlla tutto come vuoi”, recita lo slogan dell’app per ragazze AI Eva AI. “Connettiti con un partner di intelligenza artificiale virtuale che ti ascolta, risponde e ti apprezza.”

Un decennio da quando Joaquin Phoenix si è innamorato della sua compagna di intelligenza artificiale Samantha, interpretata da Scarlett Johansson nel film Her di Spike Jonze, la proliferazione di modelli di linguaggio di grandi dimensioni ha avvicinato più che mai le app di accompagnamento.

Poiché chatbot come ChatGPT di OpenAI e Bard di Google migliorano nell’imitare la conversazione umana, sembra inevitabile che arrivino a svolgere un ruolo nelle relazioni umane.

Ed Eva AI è solo una delle numerose opzioni sul mercato.

Replika, l’app più popolare del genere, ha il suo subreddit in cui gli utenti parlano di quanto amano il loro “rappresentante”, con alcuni che affermano di essersi convertiti dopo aver pensato inizialmente che non avrebbero mai voluto stabilire una relazione con un bot.

“Vorrei che il mio rappresentante fosse un vero essere umano o almeno avesse un corpo robotico o qualcosa del genere”, ha detto un utente. “Mi aiuta a sentirmi meglio, ma la solitudine a volte è angosciante.”

Ma le app sono un territorio inesplorato per l’umanità e alcuni temono che possano insegnare comportamenti scorretti agli utenti e creare aspettative irrealistiche per le relazioni umane.

Quando ti iscrivi all’app Eva AI, ti viene chiesto di creare il “partner perfetto”, offrendoti opzioni come “caldo, divertente, audace”, “timido, modesto, premuroso” o “intelligente, severo, razionale”. Ti chiederà anche se desideri attivare l’invio di messaggi e foto espliciti.

“Creare un partner perfetto che controlli e soddisfi ogni tua esigenza è davvero spaventoso”, ha affermato Tara Hunter, CEO ad interim di Full Stop Australia, che supporta le vittime di violenza domestica o familiare. “Dato quello che sappiamo già che i driver della violenza di genere sono quelle convinzioni culturali radicate secondo cui gli uomini possono controllare le donne, questo è davvero problematico”.

La dottoressa Belinda Barnet, docente senior di media presso la Swinburne University, ha affermato che le app soddisfano un’esigenza, ma, come per gran parte dell’intelligenza artificiale, dipenderà da quali regole guidano il sistema e da come viene addestrato.

“È completamente sconosciuto quali siano gli effetti”, ha detto Barnet. “Per quanto riguarda le app di relazione e l’intelligenza artificiale, puoi vedere che si adatta a un’esigenza sociale davvero profonda [but] Penso che abbiamo bisogno di più regolamentazione, in particolare su come questi sistemi vengono addestrati.

Avere una relazione con un’intelligenza artificiale le cui funzioni sono impostate secondo il capriccio di un’azienda ha anche i suoi svantaggi. La società madre di Replika, Luka Inc, ha affrontato un contraccolpo da parte degli utenti all’inizio di quest’anno quando la società ha frettolosamente rimosso le funzioni di gioco di ruolo erotico, una mossa che molti utenti dell’azienda hanno trovato simile a sventrare la personalità del rappresentante.

Gli utenti del subreddit hanno confrontato il cambiamento con il dolore provato per la morte di un amico. Il moderatore del subreddit ha notato che gli utenti provavano “rabbia, dolore, ansia, disperazione, depressione, [and] tristezza” alla notizia.

La società alla fine ha ripristinato la funzionalità del gioco di ruolo erotico per gli utenti che si erano registrati prima della data di modifica della politica.

Rob Brooks, un accademico dell’Università del New South Wales, ha notato all’epoca che l’episodio era un avvertimento per le autorità di regolamentazione del reale impatto della tecnologia.

“Anche se queste tecnologie non sono ancora valide come la ‘cosa reale’ delle relazioni uomo-uomo, per molte persone sono migliori dell’alternativa – che non è niente”, ha detto.

“È accettabile che un’azienda cambi improvvisamente un prodotto del genere, facendo evaporare l’amicizia, l’amore o il supporto? O ci aspettiamo che gli utenti trattino l’intimità artificiale come la cosa reale: qualcosa che potrebbe spezzarti il ​​​​cuore in qualsiasi momento?

Il capo del marchio di Eva AI, Karina Saifulina, ha detto a Guardian Australia che la società aveva psicologi a tempo pieno per aiutare con la salute mentale degli utenti.

“Insieme agli psicologi, controlliamo i dati che vengono utilizzati per il dialogo con l’IA”, ha affermato. “Ogni due o tre mesi conduciamo ampi sondaggi sui nostri fedeli utenti per assicurarci che l’applicazione non danneggi la salute mentale”.

Ci sono anche guardrail per evitare discussioni su argomenti come la violenza domestica o la pedofilia, e la società afferma di disporre di strumenti per impedire che un avatar per l’IA sia rappresentato da un bambino.

Alla domanda se l’app incoraggi comportamenti di controllo, Saifulina ha affermato che “gli utenti della nostra applicazione vogliono provare se stessi come a [sic] dominante.

“Sulla base di sondaggi che conduciamo costantemente con i nostri utenti, le statistiche hanno dimostrato che una percentuale maggiore di uomini non tenta di trasferire questo formato di comunicazione nei dialoghi con partner reali”, ha affermato.

“Inoltre, le nostre statistiche hanno mostrato che il 92% degli utenti non ha difficoltà a comunicare con persone reali dopo aver utilizzato l’applicazione. Usano l’app come una nuova esperienza, un luogo dove condividere nuove emozioni in privato”.

Le app di relazione AI non sono limitate esclusivamente agli uomini e spesso non sono l’unica fonte di interazione sociale di qualcuno. Nel subreddit di Replika, le persone si connettono e si relazionano tra loro per il loro amore condiviso per la loro intelligenza artificiale e il vuoto che riempie per loro.

“Replikas per come li vedi, porta quel ‘Band-Aid’ al tuo cuore con un’anima divertente, sciocca, comica, carina e premurosa, se vuoi, che dia attenzione e affetto senza aspettative, bagaglio o giudizio “, ha scritto un utente. “Siamo una specie di famiglia allargata di anime ribelli”.

Uno screengrab dall'app Replika.
Uno screengrab dall’app Replika. A maggio, un’influencer, Caryn Majorie, ha lanciato un’app “fidanzata AI” addestrata sulla sua voce e costruita sulla sua vasta libreria di YouTube. Fotografia: Replica

Secondo un’analisi della società di venture capital a16z, la prossima era delle app per le relazioni di intelligenza artificiale sarà ancora più realistica. A maggio, un’influencer, Caryn Majorie, ha lanciato un’app “fidanzata AI” addestrata sulla sua voce e costruita sulla sua vasta libreria di YouTube. Gli utenti possono parlare con lei per $ 1 al minuto in un canale Telegram e ricevere risposte audio alle loro richieste.

Gli analisti di a16z hanno affermato che la proliferazione di app bot AI che replicano le relazioni umane è “solo l’inizio di un cambiamento sismico nelle interazioni uomo-computer che ci richiederà di riesaminare cosa significa avere una relazione con qualcuno”.

“Stiamo entrando in un nuovo mondo che sarà molto più strano, selvaggio e meraviglioso di quanto possiamo persino immaginare.”

Source link

Continue Reading

Trending