SlideShare ist ein Scribd-Unternehmen logo
1 von 39
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
OpenAccessGPT
un piccolo side-project
Filippo Zanella
H-Farm Club
26 aprile 2023
@filippozanella
filippo.zanella.ce@h-farm.com
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
ChatGPT
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
I Large Language Models (LLM) sono una classe di modelli di deep learning,
costruiti su architetture di reti neurali, progettati per elaborare e comprendere
grandi quantità di dati di natural language.
Una rete neurale è un tipo di modello di apprendimento automatico basato su una
serie di piccole funzioni matematiche chiamate neuroni.
Ogni neurone è una funzione che calcola un output in base a un input. Il potere
della rete neurale deriva dalle connessioni tra i neuroni.
L’insieme dei neuroni e delle loro connessioni costituisce un modello, ossia un
programma informatico che cerca di descrivere determinati schemi/sistemi
(pattern) o fare predizioni.
I neuroni e i pesi delle connessioni fra di essi all’interno di un modello sono definiti
automaticamente dai modelli stessi durante un processo di apprendimento.
Forniti dei dati di addestramento, del tempo e risorse di calcolo sufficienti, un
modello è in grado di imparare, definendosi in autonomia (e.g. è in grado di
produrre del testo che, per un lettore, è indistinguibile dal testo scritto da un
essere umano).
Large Language Models
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
I LLM sono costruiti in particolare sull'architettura transformer, che
consente loro di catturare schemi linguistici complessi e relazioni tra parole
o frasi in insiemi di dati di testo su larga scala.
L'architettura del transformer si basa su un meccanismo chiamato self-
attention, che consente al modello di soppesare l'importanza di diverse
parole o frasi in un dato contesto.
Tale architettura è stata introdotta per la prima volta da dei ricercatori di
Google nel paper "Attention Is All You Need" di Vaswani et al. nel 2017.
L’architettura transformer
“Transformers made self-supervised learning possible, and AI jumped to warp speed”
(Jensen Juang, CEO of NVIDIA)
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Esistono tre tipi di LLM basati sull'architettura transformer:
❖ Modelli Linguistici Autoregressivi (e.g. GPT): i modelli
autoregressivi generano testo prevedendo la parola
successiva in una sequenza date le parole precedenti.
Sono addestrati per massimizzare la probabilità di ogni
parola nel set di dati di addestramento, dato il suo
contesto.
❖ Modelli di Linguaggio di Codifica Automatica (e.g.
BERT): i modelli di codifica automatica, d'altra parte,
imparano a generare una rappresentazione vettoriale di
dimensioni fisse (chiamata anche embeddings) del testo di
input ricostruendo l'input originale da una sua versione
mascherata o danneggiata.
❖ Il terzo (e.g. T5) è la combinazione dei modelli di codifica
automatica e autoregressivi.
Tipi di LLM
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
La Generative AI è una delle applicazioni emergenti nell’ambito
dell’Intelligenza Artificiale. È un termine generico che si riferisce a
qualsiasi modello di intelligenza artificiale che genera un nuovo
output basato su un input (spesso chiamato prompt).
L’IA generativa non utilizza necessariamente i LLM.
L'intelligenza artificiale generativa è un campo di ricerca che si
concentra sulla creazione di sistemi AI in grado di generare
nuovi dati o creare nuove versioni di dati esistenti.
La sua capacità generativa consente di produrre dati sintetici
(audio, codice, immagini, testi, simulazioni, video, …) e di
supportare l’uomo nelle sue attività creative.
Le applicazioni della Generative AI sono sempre più diffuse
nell’industria multimediale, nella sanità, nell’arte, nel design.
L’intelligenza artificiale generativa
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Il Generative Pre-trained Transformer è dunque un modello di rete neurale basato sul deep learning e sull’utilizzo sia della
NLG (natural language generation) che del NLP (natural language processing).
GPT-3 come LLM
GPT è stato formato utilizzando i dati presenti su internet
(Common Crawl, WebText2, Wikipedia, …) per generare
qualunque tipo di risposta a partire da un input.
GPT-3, che ha 175 miliardi di parametri, è stato prima
addestrato attraverso una fase di test supervisionato e
successivamente tramite una una fase di rinforzo, l’RLHF
(reinforcement learning from human feedback).
L'uso di Reinforcement Learning from Human Feedback
(RLHF) è ciò che rende ChatGPT unico.
“OpenAI collects data from ChatGPT users to train and
fine-tune the service further. Users can upvote or downvote
responses they receive from ChatGPT and fill out a text field
with additional feedback”.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
La capacità di gestire dati di input e output di diversi tipi (testo, immagini, video, audio, ecc.) significa che GPT-4 è multi modale.
GPT-4 come foundation model
La terminologia per questi ultimi modelli si
sta evolvendo rapidamente, con alcuni
dibattiti nella comunità di esperti che
sostengono che il "modello linguistico" sia
troppo limitante.
Il termine foundation model è stato reso
popolare dai ricercatori di Stanford, ma è
anche fonte di alcuni dibattiti.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
➡ GPT-3, è stato oggetto di critiche da parte dei ricercatori di Google
sull'etica dell'IA per l'impatto ambientale (il consumo energetico) che
richiede la fase di apprendimento e di memorizzazione dei modelli.
➡ L’uso di tecnologie di scrittura automatizzate, quali GPT-3 e altri, ha
sollevato preoccupazioni riguardo l'integrità accademica e aumentato
la posta in gioco su come le università e le scuole valuteranno ciò che
costituisce una cattiva condotta accademica come il plagio.
➡ GPT-3 è stato criticato per il suo “bias algoritmico” (e.g. è più probabile
che associ l'Islam al terrorismo e le persone di colore al crimine)
➡ GPT è stato creato con i dati del Common Crawl, un conglomerato di
articoli protetti da copyright, post su Internet, pagine Web e libri estratti
da 60 milioni di domini in un periodo di circa 10 anni.
➡ I LLM producono un testo che suona bene ma di fatto non possono
garantire che sia corretto. It sounds right, but doesn’t mean it is right.
ChatGPT non è perfetto
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
❖ La russa Sberbank ha rilasciato GigaChat. per la capacità di quest’ultimo di
comunicare in modo più intelligente in russo rispetto ad altre reti neurali straniere.
❖ È stato rilasciato GPT4All, uno dei sistemi di personal AI più potenti che può
essere installato su un personal computer ed utilizzato senza una connessione a
Internet, basato sul LLaMA (Large Language Model Meta AI).
❖ Databricks ha rilasciato Dolly 2.0 un LLM con 12B di parametri addestrato per
meno di $30 per replicare una interattività umana simile a ChatGPT. Dolly 2.0 sarà
open-source, incluso il codice di addestramento, il set di dati e i pesi del modello,
tutti adatti per l'uso commerciale.
❖ StabilityAI ha rilasciato StableLM in versione alpha su GitHub con modelli di
dimensioni di 3 miliardi e 7 miliardi di parametri, con licenza Creative Commons
BY-SA-4.0 e capacità simili a GPT-3 pur con molti meno parametri.
I concorrenti di ChatGPT
Fermare politicamente e geograficamente questa tecnologia è impossibile.
ChatGPT non è poi l’unica soluzione e molte altre sono già disponibili sul mercato.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
OpenAccessGPT
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Il 31 marzo 2023 il Garante per il
trattamento dei dati personali ha
imposto una limitazione provvisoria
per gli utenti italiani del trattamento
ad OpenAI L.C.C., la società
proprietaria di ChatGPT, ai sensi
dell’articolo 58 del Regolamenti UE
16/679, ossia il GDPR.
La sera stessa OpenAI, ha bloccato di
conseguenza l’uso del servizio
dall’Italia onde evitare sanzioni ma al
tempo stesso cercare una soluzione
per rispettare le indicazioni del Garante.
ChatGPT bloccato in Italia
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Oltre alla mancanza di adeguata
informativa agli utenti, il Garante ha
rilevato che spesso i dati non
corrispondevano a quelli reali.
ChatGPT non ha un filtro idoneo a
bloccare il servizio per i minori di 13
anni, perché non vi sarebbe un
adeguata verifica dell’età dell’utente.
Il Garante ha rilevato l’assenza di
idonea base giuridica in relazione alla
raccolta dei dati personali e al loro
trattamento per scopo di
addestramento degli algoritmi sottesi
al funzionamento di ChatGPT.
Le obiezioni del Garante verso ChatGPT
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
OpenAI, così come di per sé molte aziende americane, non può
sottovalutare le richieste del Garante, per non incorrere in pesanti
sanzioni e per adeguarsi comunque a quello che prevede il GDPR a
livello Europeo.
Di fatto poi, il trattamento dei dati degli utenti per addestrare
l’intelligenza artificiale non è necessariamente illecito:
lo è se è privo di idoneo, espresso ed informato consenso.
Il 6 aprile 2023 si è svolto un incontro in videoconferenza tra i vertici di
OpenAI e il collegio del Garante, nel quale la società statunitense si è
impegnata a rafforzare:
✓ la trasparenza nell’uso dei dati personali degli interessati:
✓ i meccanismi esistenti per l’esercizio dei diritti;
✓ le garanzie per i minori.
L’impegno di OpenAI verso il Garante
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
OpenAI è stata inizialmente fondata come organizzazione no-profit nel 2015.
Nel 2019, OpenAI non ha rilasciato pubblicamente il modello precursore
GPT-2, rompendo con le precedenti pratiche open source.
Nello stesso anno, si è ristrutturata per essere una società a scopo di lucro.
Nel 2020, Microsoft ha annunciato che la società aveva la licenza esclusiva di
GPT-3 per i prodotti e servizi di Microsoft a seguito di un investimento
multimiliardario in OpenAI.
‣ Parlare con ChatGPT non è gratuito;
‣ OpenAI utilizza ChatGPT per migliorare i propri modelli di IA;
‣ Quando non paghi, il prodotto tipicamente sei tu;
‣ Bisogna fidarsi di OpenAI sul fatto che i dati sono correttamente anonimizzati;
‣ Condividere informazioni sensibili è dunque sconsigliato;
Potenziali criticità per OpenAI
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Dopo il ban: PizzaGPT
Il 1 aprile un giovane software engineer italiano ha rilasciato un chatbot basato sullo stesso modello di ChatGPT (turbo-3.5)
che utilizza le API di OpenAI.
Il software è di base gratuito e basato sulla chiave API del proprietario di PizzaGPT.
Il progetto si sostiene dunque grazie alle donazioni di terzi e ai piani a pagamento che includono features aggiuntive.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Dopo il ban: uso delle VPN
In alternativa a PizzaGPT, molti utenti si sono indirizzati ad utilizzare delle VPN per superare il limite imposto da OpenAI
verso l’uso di ChatGPT in Italia.
Un caso emblematico è quello del browser Opera, che include nativamente una VPN gratuita.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Dopo il ban: Poe
La piattaforma di domande e risposte Quora ha aperto l'accesso pubblico alla sua nuova app di chatbot AI: “Poe”.
Poe consente agli utenti di porre domande e ottenere risposte da una serie di chatbot AI, inclusi quelli di OpenAI.
Poe è sempre di proprietà di una azienda americana ed è a pagamento. Nei T&C non è chiaro se Poe usa i dati per training.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Dopo il ban: OpenAccessGPT
Durante le ferie pasquali Diego ed io abbiamo lavorato ad un
progetto
OpenAccessGPT
in risposta al blocco di ChatGPT in Italia.
L’idea era di fornire una alternativa open-source a
ChatGPT che consentisse di avere maggiormente controllo
dei propri dati senza bisogno di una VPN.
OpenAccessGPT incoraggia la collaborazione, la
personalizzazione, lo sviluppo guidato dalla community e la
totale trasparenza.
Gli utenti possono esplorare, modificare e migliorare il
codice sorgente, adattandolo alle proprie esigenze e
contribuendo alla crescita del progetto.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Cos’è OpenAccessGPT
OpenAccessGPT è un'alternativa non ufficiale a
ChatGPT, open-source e incentrata sulla privacy.
Utilizza le API (Application Programming Interfaces) di
OpenAI per consentire la comunicazione con GPT-3.5 e
GPT-4 (accesso anticipato) utilizzando la propria chiave
API OpenAI.
In OpenAccessGPT, i dati sono memorizzati
esclusivamente nella memoria del vostro browser.
È possibile esportare e importare tutte le chat per ripristinarle
su un altro browser o computer sempre in OpenAccessGPT o
accedervi con altre applicazioni.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Adattamento del codice
Per realizzare OpenAccessGPT abbiamo fatto il fork di un
progetto pre-esistente, rilasciato con licenza MIT.
Siamo immensamente grati a Cogent Apps per il suo
progetto open-source, che funge da base per OAGPT.
In sostanza, abbiamo modificato il codice React:
- rimuovendo tutta la parte di backend/account utente;
- aggiungendo la localizzazione in altre lingue;
- implementando l'importazione/esportazione locale
della cronologia delle chat;
- rimuovendo la Dockerizzazione esistente e fornendo la
guida per l’installazione in locale via Node;
- facendo bug fixing;
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Rilascio
In ottica di continuous delivery e per fornire una modalità web di accesso a OAGPT abbiamo utilizzato Vercel, una
piattaforma per framework frontend e siti web statici in cloud.
Ogni push sul main branch viene caricato
automaticamente da e su Vercel, garantendo
che la webapp live è la stessa di Github.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Comunicazione on-line
Il 12 aprile abbiamo reso noto il progetto tramite un post su LinkedIn.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
L’endorsement degli “influencer”
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Le attestazioni di gratitudine
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Le critiche e i chiarimenti
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Il sito principale
Potete trovate tutte le informazioni su OpenAccessGPT al sito
https://it.openaccessgpt.org
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Utilizzalo da browser
Lo scopo principale della chat online è quello di mostrare le funzionalità dell'applicazione come un'anteprima del suo
funzionamento quando installata in locale o sul vostro server. La app web non conserva dati in un backend ma in locale.
La chat di OpenAccessGPT è disponibile online al sito
https://chat.openaccessgpt.org
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Demo
https://chat.openaccessgpt.org
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Installalo in locale
È possibile installare OpenAccessGPT sul proprio computer, seguendo le istruzioni contenute nel repository Github.
Seguite queste istruzioni per installare OpenAccessGPT sul
vostro computer:
1. Clonare il repository GitHub di OAGPT sul computer locale.
2. Scaricare e installare Node.js 18.15.0 e npm per il proprio
sistema operativo dal sito web di Node.js.
3. Navigare nella cartella app del repository ed eseguire il
comando npm install.
4.Avviare l'applicazione con il comando npm start.
L'applicazione web sarà disponibile all'indirizzo http://
localhost:3000.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Come iniziare
1. Installazione consigliata: Si consiglia di eseguire
OpenAccessGPT in locale seguendo le istruzioni
riportate nella repo o nel sito.
2. Ottenere la chiave API OpenAI: Per interagire con i
modelli GPT di OpenAI tramite OAGPT, è necessario
disporre di una chiave API OpenAI valida. Se non ne
avete una, generatela nel portale della piattaforma
OpenAI utilizzando il vostro account OpenAI: https://
platform.openai.com/account/api-keys.
3. Impostare la chiave API in OpenAccessGPT: Con la
vostra chiave API, inseritela nell'interfaccia della chat di
OpenAccessGPT. In questo modo si stabilisce una
connessione sicura tra l'applicazione e le API di OpenAI,
consentendo di utilizzare la chat.
4.Utilizzo della chat: Digita i messaggi nella chat e ricevi
le risposte dal modello AI. Scegli GPT3.5 o GPT4.
Risoluzione dei problemi di connessione: Se si riceve un messaggio che indica che la chat ha problemi di connessione
alle API OpenAI potrebbe essere dovuto a un credito insufficiente nel tuo account OpenAI, che va ricaricato.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Costo
OpenAccessGPT è un progetto gratuito e open-source,
ma il suo utilizzo richiede l'accesso alle API di OpenAI,
che hanno dei costi associati.
Questi costi dipendono dal numero di parole inviate e
ricevute dal modello OpenAI GPT tramite API.
Informazioni dettagliate sui prezzi sono disponibili sul sito
web di OpenAI: https://openai.com/pricing.
Ci sono poi dei costi nascosti non a carico dell’utente
finale che riguardano l’hosting del sito web e della web
app di OAGPT.
Questi sono a carico nostro e non prevedono donazioni
per supportare i due servizi.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Collabora alla codebase
Il codice sorgente di OpenAccessGPT è disponibile per l'uso, la modifica e il contributo di tutti, favorendo un approccio allo
sviluppo dell'intelligenza artificiale guidato dalla comunità.
È possibile modificare il codice e inviare una pull request, che, una volta revisionata e approvata, verrà unita al ramo principale.
Tra le possibili PR, si segnala ad esempio la necessità di correggere eventuali bug e di integrare i miglioramenti derivanti dal
repo di origine, per consentire a OAGPT di beneficiare di essi.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
http://bit.ly/OpenAccessGPT
Unisciti al server Discord!
Per promuovere la collaborazione, l'innovazione e la fiducia, abbiamo creato un server Discord, per consentire agli utenti di
discutere idee, chiedere supporto, porre domande, segnalare bug, proporre nuove funzionalità, condividere le proprie
esperienze e contribuire allo sviluppo di OpenAccessGPT.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Sviluppi futuri
✓ aggiungere più modalità per installarlo in locale (i.e.
immagini Docker specifiche);
✓ supportare ulteriori idiomi (e.g. ES e DE);
✓ aggiungere il supporto alle API di GPT-4;
✓ supporto ad altri LLM open-source alternativi a GPT-X;
✓ supporto a plugin di terze parti (e.g. integrare OAGPT
con Mailchimp o altra app accessibile via API);
✓ implementare auto mode (ispirata a AutoGPT che si
assegna nuovi sotto-obiettivi funzionali al
conseguimento di un obiettivo maggiore, senza la
necessità di un costante input da parte umana);
✓ …
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
GPT-?
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
(Chat) GPT-4
OpenAI ha impiegato 6 mesi per rendere GPT-4 più
sicuro e allineato.
GPT-4 ha l'82% in meno di probabilità di rispondere a
richieste di contenuti proibiti.
Ha il 40% in più di probabilità di produrre risposte
fattuali rispetto a GPT-3.5.
GPT-4 è multi modale, in quanto oltre a del testo può
ricevere anche delle immagini come input.
GPT-4 è disponibile attualmente unicamente per gli
sviluppatori, mettendosi in lista d’attesa.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
Ultime notizie da OpenAI
- Gli utenti di ChatGPT ora possono disattivare la
cronologia della chat per impedire che le conversazioni
vengano utilizzate per addestrare e migliorare i modelli.
- Le nuove conversazioni verranno conservate per 30
giorni e riviste solo quando necessario per monitorare
eventuali abusi prima di essere eliminate definitivamente.
- OpenAI prevede di lanciare un nuovo abbonamento
ChatGPT Business nei prossimi mesi, che seguirà le
politiche di utilizzo dei dati delle API e non utilizzerà i dati
degli utenti finali per l'addestramento del modello.
- È stata rilasciata una nuova funzionalità di esportazione
che rende più facile per gli utenti esportare i propri dati e
comprendere le informazioni memorizzate da ChatGPT.
Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore.
filippo.zanella.ce@h-farm.com
Grazie
Director of Integrations @ Tritium Software SL
Professor @ H-Farm College

Weitere ähnliche Inhalte

Was ist angesagt?

Exploring Opportunities in the Generative AI Value Chain.pdf
Exploring Opportunities in the Generative AI Value Chain.pdfExploring Opportunities in the Generative AI Value Chain.pdf
Exploring Opportunities in the Generative AI Value Chain.pdfDung Hoang
 
Drive digital transformation with AI
Drive digital transformation with AIDrive digital transformation with AI
Drive digital transformation with AIAmazon Web Services
 
AI FOR BUSINESS LEADERS
AI FOR BUSINESS LEADERSAI FOR BUSINESS LEADERS
AI FOR BUSINESS LEADERSAndre Muscat
 
𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬
𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬
𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬VINCI Digital - Industrial IoT (IIoT) Strategic Advisory
 
Leveraging Generative AI & Best practices
Leveraging Generative AI & Best practicesLeveraging Generative AI & Best practices
Leveraging Generative AI & Best practicesDianaGray10
 
AI Governance Playbook
AI Governance PlaybookAI Governance Playbook
AI Governance PlaybookAntony Turner
 
Presentation-Open AI Chat GPT-4 3.pptx
Presentation-Open AI Chat GPT-4 3.pptxPresentation-Open AI Chat GPT-4 3.pptx
Presentation-Open AI Chat GPT-4 3.pptxNitinKhandelwal71
 
Raising the Platform: How Singapore Can Keep Leading the World in the Develop...
Raising the Platform: How Singapore Can Keep Leading the World in the Develop...Raising the Platform: How Singapore Can Keep Leading the World in the Develop...
Raising the Platform: How Singapore Can Keep Leading the World in the Develop...accenture
 
Mistral AI Strategic Memo.pdf
Mistral AI Strategic Memo.pdfMistral AI Strategic Memo.pdf
Mistral AI Strategic Memo.pdfOliver Molander
 
Responsible Generative AI
Responsible Generative AIResponsible Generative AI
Responsible Generative AICMassociates
 
Generative-AI-in-enterprise-20230615.pdf
Generative-AI-in-enterprise-20230615.pdfGenerative-AI-in-enterprise-20230615.pdf
Generative-AI-in-enterprise-20230615.pdfLiming Zhu
 
ChatGPT Cheatsheet 2023
ChatGPT Cheatsheet 2023ChatGPT Cheatsheet 2023
ChatGPT Cheatsheet 2023SaahilThakur
 
Generative AI and law.pptx
Generative AI and law.pptxGenerative AI and law.pptx
Generative AI and law.pptxChris Marsden
 
Smarter Fraud Detection With Graph Data Science
Smarter Fraud Detection With Graph Data ScienceSmarter Fraud Detection With Graph Data Science
Smarter Fraud Detection With Graph Data ScienceNeo4j
 
Cavalry Ventures | Deep Dive: Generative AI
Cavalry Ventures | Deep Dive: Generative AICavalry Ventures | Deep Dive: Generative AI
Cavalry Ventures | Deep Dive: Generative AICavalry Ventures
 

Was ist angesagt? (20)

Exploring Opportunities in the Generative AI Value Chain.pdf
Exploring Opportunities in the Generative AI Value Chain.pdfExploring Opportunities in the Generative AI Value Chain.pdf
Exploring Opportunities in the Generative AI Value Chain.pdf
 
The future of AI is hybrid
The future of AI is hybridThe future of AI is hybrid
The future of AI is hybrid
 
Drive digital transformation with AI
Drive digital transformation with AIDrive digital transformation with AI
Drive digital transformation with AI
 
ChatGPT Use- Cases
ChatGPT Use- Cases ChatGPT Use- Cases
ChatGPT Use- Cases
 
ChatGPT Training Session
ChatGPT Training SessionChatGPT Training Session
ChatGPT Training Session
 
AI FOR BUSINESS LEADERS
AI FOR BUSINESS LEADERSAI FOR BUSINESS LEADERS
AI FOR BUSINESS LEADERS
 
𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬
𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬
𝐆𝐞𝐧𝐞𝐫𝐚𝐭𝐢𝐯𝐞 𝐀𝐈: 𝐂𝐡𝐚𝐧𝐠𝐢𝐧𝐠 𝐇𝐨𝐰 𝐁𝐮𝐬𝐢𝐧𝐞𝐬𝐬 𝐈𝐧𝐧𝐨𝐯𝐚𝐭𝐞𝐬 𝐚𝐧𝐝 𝐎𝐩𝐞𝐫𝐚𝐭𝐞𝐬
 
Leveraging Generative AI & Best practices
Leveraging Generative AI & Best practicesLeveraging Generative AI & Best practices
Leveraging Generative AI & Best practices
 
AI Governance Playbook
AI Governance PlaybookAI Governance Playbook
AI Governance Playbook
 
Presentation-Open AI Chat GPT-4 3.pptx
Presentation-Open AI Chat GPT-4 3.pptxPresentation-Open AI Chat GPT-4 3.pptx
Presentation-Open AI Chat GPT-4 3.pptx
 
Raising the Platform: How Singapore Can Keep Leading the World in the Develop...
Raising the Platform: How Singapore Can Keep Leading the World in the Develop...Raising the Platform: How Singapore Can Keep Leading the World in the Develop...
Raising the Platform: How Singapore Can Keep Leading the World in the Develop...
 
Mistral AI Strategic Memo.pdf
Mistral AI Strategic Memo.pdfMistral AI Strategic Memo.pdf
Mistral AI Strategic Memo.pdf
 
Responsible Generative AI
Responsible Generative AIResponsible Generative AI
Responsible Generative AI
 
Generative-AI-in-enterprise-20230615.pdf
Generative-AI-in-enterprise-20230615.pdfGenerative-AI-in-enterprise-20230615.pdf
Generative-AI-in-enterprise-20230615.pdf
 
Generative AI
Generative AIGenerative AI
Generative AI
 
ChatGPT Cheatsheet 2023
ChatGPT Cheatsheet 2023ChatGPT Cheatsheet 2023
ChatGPT Cheatsheet 2023
 
Generative AI and law.pptx
Generative AI and law.pptxGenerative AI and law.pptx
Generative AI and law.pptx
 
Smarter Fraud Detection With Graph Data Science
Smarter Fraud Detection With Graph Data ScienceSmarter Fraud Detection With Graph Data Science
Smarter Fraud Detection With Graph Data Science
 
Explainable AI (XAI)
Explainable AI (XAI)Explainable AI (XAI)
Explainable AI (XAI)
 
Cavalry Ventures | Deep Dive: Generative AI
Cavalry Ventures | Deep Dive: Generative AICavalry Ventures | Deep Dive: Generative AI
Cavalry Ventures | Deep Dive: Generative AI
 

Ähnlich wie OpenAccessGPT

Big Data, Intelligenza Artificiale e Finanza
Big Data, Intelligenza Artificiale e FinanzaBig Data, Intelligenza Artificiale e Finanza
Big Data, Intelligenza Artificiale e FinanzaAlessandro Greppi
 
Marketing Aumentato e Intelligenza Artificiale - Master MUMM
Marketing Aumentato e Intelligenza Artificiale - Master MUMMMarketing Aumentato e Intelligenza Artificiale - Master MUMM
Marketing Aumentato e Intelligenza Artificiale - Master MUMMMasterMarketing
 
Analizza i tuoi dati con Intelligenza Artificiale
Analizza i tuoi dati con Intelligenza ArtificialeAnalizza i tuoi dati con Intelligenza Artificiale
Analizza i tuoi dati con Intelligenza ArtificialeRoberto Marmo
 
AI Work Revolution - #TDD2023
AI Work Revolution - #TDD2023 AI Work Revolution - #TDD2023
AI Work Revolution - #TDD2023 Francesco Ronchi
 
Etica e Filosofia del Software Libero
Etica e Filosofia del Software LiberoEtica e Filosofia del Software Libero
Etica e Filosofia del Software LiberoNaLUG
 
Convegno Open Source - Opena Ideas for Public Administration
Convegno Open Source - Opena Ideas for Public AdministrationConvegno Open Source - Opena Ideas for Public Administration
Convegno Open Source - Opena Ideas for Public Administrationmarco scialdone
 
Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...
Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...
Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...Claudio Gasparini
 
(E book) cracking & hacking tutorial 1000 pagine (ita)
(E book) cracking & hacking tutorial 1000 pagine (ita)(E book) cracking & hacking tutorial 1000 pagine (ita)
(E book) cracking & hacking tutorial 1000 pagine (ita)UltraUploader
 
Flavia marzano opensource_openknowledge
Flavia marzano opensource_openknowledgeFlavia marzano opensource_openknowledge
Flavia marzano opensource_openknowledgeFlavia Marzano
 
Intelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi Futuri
Intelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi FuturiIntelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi Futuri
Intelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi FuturiAntonio Lieto
 
Enterprise e Web Semantico
Enterprise e Web SemanticoEnterprise e Web Semantico
Enterprise e Web Semanticosharesemantics
 
Open Source e Open Data - workshop LOW COST 3D
Open Source e Open Data - workshop LOW COST 3DOpen Source e Open Data - workshop LOW COST 3D
Open Source e Open Data - workshop LOW COST 3DMaurizio Napolitano
 
L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...
L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...
L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...Angelo Parchitelli
 
Abilab convegno robotica del 11 maggio 2017
Abilab convegno robotica del 11 maggio 2017Abilab convegno robotica del 11 maggio 2017
Abilab convegno robotica del 11 maggio 2017Mauro Giorgi
 
Open source un'opportunità di business
Open source un'opportunità di businessOpen source un'opportunità di business
Open source un'opportunità di businessRoberto Falla
 
Blockchain e AI: verso una nuova finanza
Blockchain e AI: verso una nuova finanzaBlockchain e AI: verso una nuova finanza
Blockchain e AI: verso una nuova finanzaAlessandro Greppi
 

Ähnlich wie OpenAccessGPT (20)

Big Data, Intelligenza Artificiale e Finanza
Big Data, Intelligenza Artificiale e FinanzaBig Data, Intelligenza Artificiale e Finanza
Big Data, Intelligenza Artificiale e Finanza
 
Marketing Aumentato e Intelligenza Artificiale - Master MUMM
Marketing Aumentato e Intelligenza Artificiale - Master MUMMMarketing Aumentato e Intelligenza Artificiale - Master MUMM
Marketing Aumentato e Intelligenza Artificiale - Master MUMM
 
Informatica
InformaticaInformatica
Informatica
 
Analizza i tuoi dati con Intelligenza Artificiale
Analizza i tuoi dati con Intelligenza ArtificialeAnalizza i tuoi dati con Intelligenza Artificiale
Analizza i tuoi dati con Intelligenza Artificiale
 
AI Work Revolution - #TDD2023
AI Work Revolution - #TDD2023 AI Work Revolution - #TDD2023
AI Work Revolution - #TDD2023
 
Etica e Filosofia del Software Libero
Etica e Filosofia del Software LiberoEtica e Filosofia del Software Libero
Etica e Filosofia del Software Libero
 
Convegno Open Source - Opena Ideas for Public Administration
Convegno Open Source - Opena Ideas for Public AdministrationConvegno Open Source - Opena Ideas for Public Administration
Convegno Open Source - Opena Ideas for Public Administration
 
Smart api
Smart apiSmart api
Smart api
 
Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...
Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...
Nuove potenzialità e nuove problematiche della stampa 3D: progettazione condi...
 
(E book) cracking & hacking tutorial 1000 pagine (ita)
(E book) cracking & hacking tutorial 1000 pagine (ita)(E book) cracking & hacking tutorial 1000 pagine (ita)
(E book) cracking & hacking tutorial 1000 pagine (ita)
 
Flavia marzano opensource_openknowledge
Flavia marzano opensource_openknowledgeFlavia marzano opensource_openknowledge
Flavia marzano opensource_openknowledge
 
FANTIN BIG DATA (1)
FANTIN BIG DATA (1)FANTIN BIG DATA (1)
FANTIN BIG DATA (1)
 
Intelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi Futuri
Intelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi FuturiIntelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi Futuri
Intelligenza Artificiale e Chatbot: Limiti Attuali e Sviluppi Futuri
 
Enterprise e Web Semantico
Enterprise e Web SemanticoEnterprise e Web Semantico
Enterprise e Web Semantico
 
Open Source e Open Data - workshop LOW COST 3D
Open Source e Open Data - workshop LOW COST 3DOpen Source e Open Data - workshop LOW COST 3D
Open Source e Open Data - workshop LOW COST 3D
 
Informatica Presente e Futuro
Informatica Presente e FuturoInformatica Presente e Futuro
Informatica Presente e Futuro
 
L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...
L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...
L'ecosistema Google a supporto dei progetti IoT: dalla prototipazione ai dati...
 
Abilab convegno robotica del 11 maggio 2017
Abilab convegno robotica del 11 maggio 2017Abilab convegno robotica del 11 maggio 2017
Abilab convegno robotica del 11 maggio 2017
 
Open source un'opportunità di business
Open source un'opportunità di businessOpen source un'opportunità di business
Open source un'opportunità di business
 
Blockchain e AI: verso una nuova finanza
Blockchain e AI: verso una nuova finanzaBlockchain e AI: verso una nuova finanza
Blockchain e AI: verso una nuova finanza
 

OpenAccessGPT

  • 1. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAccessGPT un piccolo side-project Filippo Zanella H-Farm Club 26 aprile 2023 @filippozanella filippo.zanella.ce@h-farm.com
  • 2. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. ChatGPT
  • 3. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. I Large Language Models (LLM) sono una classe di modelli di deep learning, costruiti su architetture di reti neurali, progettati per elaborare e comprendere grandi quantità di dati di natural language. Una rete neurale è un tipo di modello di apprendimento automatico basato su una serie di piccole funzioni matematiche chiamate neuroni. Ogni neurone è una funzione che calcola un output in base a un input. Il potere della rete neurale deriva dalle connessioni tra i neuroni. L’insieme dei neuroni e delle loro connessioni costituisce un modello, ossia un programma informatico che cerca di descrivere determinati schemi/sistemi (pattern) o fare predizioni. I neuroni e i pesi delle connessioni fra di essi all’interno di un modello sono definiti automaticamente dai modelli stessi durante un processo di apprendimento. Forniti dei dati di addestramento, del tempo e risorse di calcolo sufficienti, un modello è in grado di imparare, definendosi in autonomia (e.g. è in grado di produrre del testo che, per un lettore, è indistinguibile dal testo scritto da un essere umano). Large Language Models
  • 4. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. I LLM sono costruiti in particolare sull'architettura transformer, che consente loro di catturare schemi linguistici complessi e relazioni tra parole o frasi in insiemi di dati di testo su larga scala. L'architettura del transformer si basa su un meccanismo chiamato self- attention, che consente al modello di soppesare l'importanza di diverse parole o frasi in un dato contesto. Tale architettura è stata introdotta per la prima volta da dei ricercatori di Google nel paper "Attention Is All You Need" di Vaswani et al. nel 2017. L’architettura transformer “Transformers made self-supervised learning possible, and AI jumped to warp speed” (Jensen Juang, CEO of NVIDIA)
  • 5. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Esistono tre tipi di LLM basati sull'architettura transformer: ❖ Modelli Linguistici Autoregressivi (e.g. GPT): i modelli autoregressivi generano testo prevedendo la parola successiva in una sequenza date le parole precedenti. Sono addestrati per massimizzare la probabilità di ogni parola nel set di dati di addestramento, dato il suo contesto. ❖ Modelli di Linguaggio di Codifica Automatica (e.g. BERT): i modelli di codifica automatica, d'altra parte, imparano a generare una rappresentazione vettoriale di dimensioni fisse (chiamata anche embeddings) del testo di input ricostruendo l'input originale da una sua versione mascherata o danneggiata. ❖ Il terzo (e.g. T5) è la combinazione dei modelli di codifica automatica e autoregressivi. Tipi di LLM
  • 6. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. La Generative AI è una delle applicazioni emergenti nell’ambito dell’Intelligenza Artificiale. È un termine generico che si riferisce a qualsiasi modello di intelligenza artificiale che genera un nuovo output basato su un input (spesso chiamato prompt). L’IA generativa non utilizza necessariamente i LLM. L'intelligenza artificiale generativa è un campo di ricerca che si concentra sulla creazione di sistemi AI in grado di generare nuovi dati o creare nuove versioni di dati esistenti. La sua capacità generativa consente di produrre dati sintetici (audio, codice, immagini, testi, simulazioni, video, …) e di supportare l’uomo nelle sue attività creative. Le applicazioni della Generative AI sono sempre più diffuse nell’industria multimediale, nella sanità, nell’arte, nel design. L’intelligenza artificiale generativa
  • 7. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Il Generative Pre-trained Transformer è dunque un modello di rete neurale basato sul deep learning e sull’utilizzo sia della NLG (natural language generation) che del NLP (natural language processing). GPT-3 come LLM GPT è stato formato utilizzando i dati presenti su internet (Common Crawl, WebText2, Wikipedia, …) per generare qualunque tipo di risposta a partire da un input. GPT-3, che ha 175 miliardi di parametri, è stato prima addestrato attraverso una fase di test supervisionato e successivamente tramite una una fase di rinforzo, l’RLHF (reinforcement learning from human feedback). L'uso di Reinforcement Learning from Human Feedback (RLHF) è ciò che rende ChatGPT unico. “OpenAI collects data from ChatGPT users to train and fine-tune the service further. Users can upvote or downvote responses they receive from ChatGPT and fill out a text field with additional feedback”.
  • 8. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. La capacità di gestire dati di input e output di diversi tipi (testo, immagini, video, audio, ecc.) significa che GPT-4 è multi modale. GPT-4 come foundation model La terminologia per questi ultimi modelli si sta evolvendo rapidamente, con alcuni dibattiti nella comunità di esperti che sostengono che il "modello linguistico" sia troppo limitante. Il termine foundation model è stato reso popolare dai ricercatori di Stanford, ma è anche fonte di alcuni dibattiti.
  • 9. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. ➡ GPT-3, è stato oggetto di critiche da parte dei ricercatori di Google sull'etica dell'IA per l'impatto ambientale (il consumo energetico) che richiede la fase di apprendimento e di memorizzazione dei modelli. ➡ L’uso di tecnologie di scrittura automatizzate, quali GPT-3 e altri, ha sollevato preoccupazioni riguardo l'integrità accademica e aumentato la posta in gioco su come le università e le scuole valuteranno ciò che costituisce una cattiva condotta accademica come il plagio. ➡ GPT-3 è stato criticato per il suo “bias algoritmico” (e.g. è più probabile che associ l'Islam al terrorismo e le persone di colore al crimine) ➡ GPT è stato creato con i dati del Common Crawl, un conglomerato di articoli protetti da copyright, post su Internet, pagine Web e libri estratti da 60 milioni di domini in un periodo di circa 10 anni. ➡ I LLM producono un testo che suona bene ma di fatto non possono garantire che sia corretto. It sounds right, but doesn’t mean it is right. ChatGPT non è perfetto
  • 10. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. ❖ La russa Sberbank ha rilasciato GigaChat. per la capacità di quest’ultimo di comunicare in modo più intelligente in russo rispetto ad altre reti neurali straniere. ❖ È stato rilasciato GPT4All, uno dei sistemi di personal AI più potenti che può essere installato su un personal computer ed utilizzato senza una connessione a Internet, basato sul LLaMA (Large Language Model Meta AI). ❖ Databricks ha rilasciato Dolly 2.0 un LLM con 12B di parametri addestrato per meno di $30 per replicare una interattività umana simile a ChatGPT. Dolly 2.0 sarà open-source, incluso il codice di addestramento, il set di dati e i pesi del modello, tutti adatti per l'uso commerciale. ❖ StabilityAI ha rilasciato StableLM in versione alpha su GitHub con modelli di dimensioni di 3 miliardi e 7 miliardi di parametri, con licenza Creative Commons BY-SA-4.0 e capacità simili a GPT-3 pur con molti meno parametri. I concorrenti di ChatGPT Fermare politicamente e geograficamente questa tecnologia è impossibile. ChatGPT non è poi l’unica soluzione e molte altre sono già disponibili sul mercato.
  • 11. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAccessGPT
  • 12. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Il 31 marzo 2023 il Garante per il trattamento dei dati personali ha imposto una limitazione provvisoria per gli utenti italiani del trattamento ad OpenAI L.C.C., la società proprietaria di ChatGPT, ai sensi dell’articolo 58 del Regolamenti UE 16/679, ossia il GDPR. La sera stessa OpenAI, ha bloccato di conseguenza l’uso del servizio dall’Italia onde evitare sanzioni ma al tempo stesso cercare una soluzione per rispettare le indicazioni del Garante. ChatGPT bloccato in Italia
  • 13. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Oltre alla mancanza di adeguata informativa agli utenti, il Garante ha rilevato che spesso i dati non corrispondevano a quelli reali. ChatGPT non ha un filtro idoneo a bloccare il servizio per i minori di 13 anni, perché non vi sarebbe un adeguata verifica dell’età dell’utente. Il Garante ha rilevato l’assenza di idonea base giuridica in relazione alla raccolta dei dati personali e al loro trattamento per scopo di addestramento degli algoritmi sottesi al funzionamento di ChatGPT. Le obiezioni del Garante verso ChatGPT
  • 14. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAI, così come di per sé molte aziende americane, non può sottovalutare le richieste del Garante, per non incorrere in pesanti sanzioni e per adeguarsi comunque a quello che prevede il GDPR a livello Europeo. Di fatto poi, il trattamento dei dati degli utenti per addestrare l’intelligenza artificiale non è necessariamente illecito: lo è se è privo di idoneo, espresso ed informato consenso. Il 6 aprile 2023 si è svolto un incontro in videoconferenza tra i vertici di OpenAI e il collegio del Garante, nel quale la società statunitense si è impegnata a rafforzare: ✓ la trasparenza nell’uso dei dati personali degli interessati: ✓ i meccanismi esistenti per l’esercizio dei diritti; ✓ le garanzie per i minori. L’impegno di OpenAI verso il Garante
  • 15. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. OpenAI è stata inizialmente fondata come organizzazione no-profit nel 2015. Nel 2019, OpenAI non ha rilasciato pubblicamente il modello precursore GPT-2, rompendo con le precedenti pratiche open source. Nello stesso anno, si è ristrutturata per essere una società a scopo di lucro. Nel 2020, Microsoft ha annunciato che la società aveva la licenza esclusiva di GPT-3 per i prodotti e servizi di Microsoft a seguito di un investimento multimiliardario in OpenAI. ‣ Parlare con ChatGPT non è gratuito; ‣ OpenAI utilizza ChatGPT per migliorare i propri modelli di IA; ‣ Quando non paghi, il prodotto tipicamente sei tu; ‣ Bisogna fidarsi di OpenAI sul fatto che i dati sono correttamente anonimizzati; ‣ Condividere informazioni sensibili è dunque sconsigliato; Potenziali criticità per OpenAI
  • 16. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: PizzaGPT Il 1 aprile un giovane software engineer italiano ha rilasciato un chatbot basato sullo stesso modello di ChatGPT (turbo-3.5) che utilizza le API di OpenAI. Il software è di base gratuito e basato sulla chiave API del proprietario di PizzaGPT. Il progetto si sostiene dunque grazie alle donazioni di terzi e ai piani a pagamento che includono features aggiuntive.
  • 17. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: uso delle VPN In alternativa a PizzaGPT, molti utenti si sono indirizzati ad utilizzare delle VPN per superare il limite imposto da OpenAI verso l’uso di ChatGPT in Italia. Un caso emblematico è quello del browser Opera, che include nativamente una VPN gratuita.
  • 18. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: Poe La piattaforma di domande e risposte Quora ha aperto l'accesso pubblico alla sua nuova app di chatbot AI: “Poe”. Poe consente agli utenti di porre domande e ottenere risposte da una serie di chatbot AI, inclusi quelli di OpenAI. Poe è sempre di proprietà di una azienda americana ed è a pagamento. Nei T&C non è chiaro se Poe usa i dati per training.
  • 19. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Dopo il ban: OpenAccessGPT Durante le ferie pasquali Diego ed io abbiamo lavorato ad un progetto OpenAccessGPT in risposta al blocco di ChatGPT in Italia. L’idea era di fornire una alternativa open-source a ChatGPT che consentisse di avere maggiormente controllo dei propri dati senza bisogno di una VPN. OpenAccessGPT incoraggia la collaborazione, la personalizzazione, lo sviluppo guidato dalla community e la totale trasparenza. Gli utenti possono esplorare, modificare e migliorare il codice sorgente, adattandolo alle proprie esigenze e contribuendo alla crescita del progetto.
  • 20. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Cos’è OpenAccessGPT OpenAccessGPT è un'alternativa non ufficiale a ChatGPT, open-source e incentrata sulla privacy. Utilizza le API (Application Programming Interfaces) di OpenAI per consentire la comunicazione con GPT-3.5 e GPT-4 (accesso anticipato) utilizzando la propria chiave API OpenAI. In OpenAccessGPT, i dati sono memorizzati esclusivamente nella memoria del vostro browser. È possibile esportare e importare tutte le chat per ripristinarle su un altro browser o computer sempre in OpenAccessGPT o accedervi con altre applicazioni.
  • 21. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Adattamento del codice Per realizzare OpenAccessGPT abbiamo fatto il fork di un progetto pre-esistente, rilasciato con licenza MIT. Siamo immensamente grati a Cogent Apps per il suo progetto open-source, che funge da base per OAGPT. In sostanza, abbiamo modificato il codice React: - rimuovendo tutta la parte di backend/account utente; - aggiungendo la localizzazione in altre lingue; - implementando l'importazione/esportazione locale della cronologia delle chat; - rimuovendo la Dockerizzazione esistente e fornendo la guida per l’installazione in locale via Node; - facendo bug fixing;
  • 22. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Rilascio In ottica di continuous delivery e per fornire una modalità web di accesso a OAGPT abbiamo utilizzato Vercel, una piattaforma per framework frontend e siti web statici in cloud. Ogni push sul main branch viene caricato automaticamente da e su Vercel, garantendo che la webapp live è la stessa di Github.
  • 23. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Comunicazione on-line Il 12 aprile abbiamo reso noto il progetto tramite un post su LinkedIn.
  • 24. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. L’endorsement degli “influencer”
  • 25. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Le attestazioni di gratitudine
  • 26. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Le critiche e i chiarimenti
  • 27. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Il sito principale Potete trovate tutte le informazioni su OpenAccessGPT al sito https://it.openaccessgpt.org
  • 28. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Utilizzalo da browser Lo scopo principale della chat online è quello di mostrare le funzionalità dell'applicazione come un'anteprima del suo funzionamento quando installata in locale o sul vostro server. La app web non conserva dati in un backend ma in locale. La chat di OpenAccessGPT è disponibile online al sito https://chat.openaccessgpt.org
  • 29. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Demo https://chat.openaccessgpt.org
  • 30. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Installalo in locale È possibile installare OpenAccessGPT sul proprio computer, seguendo le istruzioni contenute nel repository Github. Seguite queste istruzioni per installare OpenAccessGPT sul vostro computer: 1. Clonare il repository GitHub di OAGPT sul computer locale. 2. Scaricare e installare Node.js 18.15.0 e npm per il proprio sistema operativo dal sito web di Node.js. 3. Navigare nella cartella app del repository ed eseguire il comando npm install. 4.Avviare l'applicazione con il comando npm start. L'applicazione web sarà disponibile all'indirizzo http:// localhost:3000.
  • 31. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Come iniziare 1. Installazione consigliata: Si consiglia di eseguire OpenAccessGPT in locale seguendo le istruzioni riportate nella repo o nel sito. 2. Ottenere la chiave API OpenAI: Per interagire con i modelli GPT di OpenAI tramite OAGPT, è necessario disporre di una chiave API OpenAI valida. Se non ne avete una, generatela nel portale della piattaforma OpenAI utilizzando il vostro account OpenAI: https:// platform.openai.com/account/api-keys. 3. Impostare la chiave API in OpenAccessGPT: Con la vostra chiave API, inseritela nell'interfaccia della chat di OpenAccessGPT. In questo modo si stabilisce una connessione sicura tra l'applicazione e le API di OpenAI, consentendo di utilizzare la chat. 4.Utilizzo della chat: Digita i messaggi nella chat e ricevi le risposte dal modello AI. Scegli GPT3.5 o GPT4. Risoluzione dei problemi di connessione: Se si riceve un messaggio che indica che la chat ha problemi di connessione alle API OpenAI potrebbe essere dovuto a un credito insufficiente nel tuo account OpenAI, che va ricaricato.
  • 32. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Costo OpenAccessGPT è un progetto gratuito e open-source, ma il suo utilizzo richiede l'accesso alle API di OpenAI, che hanno dei costi associati. Questi costi dipendono dal numero di parole inviate e ricevute dal modello OpenAI GPT tramite API. Informazioni dettagliate sui prezzi sono disponibili sul sito web di OpenAI: https://openai.com/pricing. Ci sono poi dei costi nascosti non a carico dell’utente finale che riguardano l’hosting del sito web e della web app di OAGPT. Questi sono a carico nostro e non prevedono donazioni per supportare i due servizi.
  • 33. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Collabora alla codebase Il codice sorgente di OpenAccessGPT è disponibile per l'uso, la modifica e il contributo di tutti, favorendo un approccio allo sviluppo dell'intelligenza artificiale guidato dalla comunità. È possibile modificare il codice e inviare una pull request, che, una volta revisionata e approvata, verrà unita al ramo principale. Tra le possibili PR, si segnala ad esempio la necessità di correggere eventuali bug e di integrare i miglioramenti derivanti dal repo di origine, per consentire a OAGPT di beneficiare di essi.
  • 34. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. http://bit.ly/OpenAccessGPT Unisciti al server Discord! Per promuovere la collaborazione, l'innovazione e la fiducia, abbiamo creato un server Discord, per consentire agli utenti di discutere idee, chiedere supporto, porre domande, segnalare bug, proporre nuove funzionalità, condividere le proprie esperienze e contribuire allo sviluppo di OpenAccessGPT.
  • 35. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Sviluppi futuri ✓ aggiungere più modalità per installarlo in locale (i.e. immagini Docker specifiche); ✓ supportare ulteriori idiomi (e.g. ES e DE); ✓ aggiungere il supporto alle API di GPT-4; ✓ supporto ad altri LLM open-source alternativi a GPT-X; ✓ supporto a plugin di terze parti (e.g. integrare OAGPT con Mailchimp o altra app accessibile via API); ✓ implementare auto mode (ispirata a AutoGPT che si assegna nuovi sotto-obiettivi funzionali al conseguimento di un obiettivo maggiore, senza la necessità di un costante input da parte umana); ✓ …
  • 36. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. GPT-?
  • 37. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. (Chat) GPT-4 OpenAI ha impiegato 6 mesi per rendere GPT-4 più sicuro e allineato. GPT-4 ha l'82% in meno di probabilità di rispondere a richieste di contenuti proibiti. Ha il 40% in più di probabilità di produrre risposte fattuali rispetto a GPT-3.5. GPT-4 è multi modale, in quanto oltre a del testo può ricevere anche delle immagini come input. GPT-4 è disponibile attualmente unicamente per gli sviluppatori, mettendosi in lista d’attesa.
  • 38. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. Ultime notizie da OpenAI - Gli utenti di ChatGPT ora possono disattivare la cronologia della chat per impedire che le conversazioni vengano utilizzate per addestrare e migliorare i modelli. - Le nuove conversazioni verranno conservate per 30 giorni e riviste solo quando necessario per monitorare eventuali abusi prima di essere eliminate definitivamente. - OpenAI prevede di lanciare un nuovo abbonamento ChatGPT Business nei prossimi mesi, che seguirà le politiche di utilizzo dei dati delle API e non utilizzerà i dati degli utenti finali per l'addestramento del modello. - È stata rilasciata una nuova funzionalità di esportazione che rende più facile per gli utenti esportare i propri dati e comprendere le informazioni memorizzate da ChatGPT.
  • 39. Copyright 2023 Filippo Zanella - È vietata la redistribuzione e la pubblicazione dei contenuti e immagini non autorizzata espressamente dall’autore. filippo.zanella.ce@h-farm.com Grazie Director of Integrations @ Tritium Software SL Professor @ H-Farm College