Homo sapiens e Homo digitalis /

Intelligenza o stupidità artificiale? (Intervista con Stefano Bargagni)

Intelligenza o stupidità artificiale? (Intervista con Stefano Bargagni)

25 Ottobre 2020 The sapiens
The sapiens
The sapiens
share
Si chiama “intelligenza artificiale ” solo perché funziona in maniera simile a processi che si svolgono nel cervello degli esseri viventi ma di fatto, analizzando a fondo questi algoritmi, sono abbastanza “stupidi” e dovrebbero chiamarsi “stupidità artificiale”. La mia definizione di computer rimane ancora quella mutuata da qualcuno di cui non ricordo il nome: è “lo stupido più veloce del mondo”.

“L’avvento delle macchine ci costringe a una nuova educazione, autoeducazione; ci impone di reagire, riscoprendo le nostre potenzialità, la nostra forza, il nostro coraggio, la nostra saggezza. Dovremo imparare a scegliere. Dovremo scoprire in noi il senso della misura, arrivare a saper dire di no, a saper mettere limite all’invasione delle macchine nelle nostre vite, nei nostri stessi corpi” – Francesco Varanini

Scrive Noah Harari che “quando la tecnologia ci permetterà di reingegnerizzare le menti umane, Homo sapiens scomparirà […] e un processo completamente nuovo avrà inizio”. La previsione può rivelarsi errata ma se si riflette sulla profondità dei cambiamenti in corso e il ruolo che la tecnologia sta avendo nel determinarli, si comprende che siamo in una fase di cambio di paradigma. Quando il nuovo emergerà noi potremmo non essere più umani. Cyborg, simbionti, semplici intelligenze artificiali più o meno ibridate, potenti, intelligenti e capaci di apprendere ma non più umane.

Se questa prospettiva è verosimile è più che mai necessaria una riflessione approfondita, puntuale e critica di quanto sta avvenendo. Paradigmatico per questa riflessione è il tema dell’intelligenza artificiale che, più di altri, suggerisce bene il rischio e la sfida che tutto il genere umano si trova di fronte. Un rischio da molti sottovalutato e una sfida da molti accettata forse con eccessiva superficialità. Un tema che comunque è di interesse generale e vale la pena approfondire. E la riflessione deve essere fatta da tecnici, esperti, fautori della IA, ma senza mai dimenticarsi di essere esseri umani.

SoloTablet ha deciso di farlo coinvolgendo persone che sull’intelligenza artificiale stanno lavorando, investendo, filosofeggiando e creando scenari futuri venturi.

In questo articolo proponiamo l’intervista che Carlo Mazzucchelli  ha condotto con Stefano BargagniFounder & CEO MorphCast®


 

Buongiorno, può raccontarci qualcosa di lei, della sua attività attuale, del suo interesse per l’intelligenza artificiale? 

Visionario ed entusiasta di costruire un pezzo di futuro,  molti mi etichettano un eclettico saccente e anche un po' matto. 

Fra le cose che ho fatto nella mia vita, mi compiaccio di ricordare una scatoletta bianca per frodare la Sip nelle telefonate interurbane quando avevo solo 14 anni, e funzionava proprio bene. Nel 1993 il primo utilizzo di computer collegati fra loro per commercializzare prodotti, cosa che negli anni successivi è stata chiamata e-commerce. Infine l'invenzione di un video che cambia la trama istantaneamente in base alle emozioni di chi lo sta guardando. 

Ritiene utile una riflessione sull'era tecnologica e dell'informazione che stiamo sperimentando?

Ogni riflessione di questo genere è utile, senza riflessione accurata è impossibile determinare delle regole per mitigare i rischi di qualsiasi nuova tecnologia.

Sono convinto che niente è privo di rischi, ma ritengo insulso non utilizzare le nuove tecnologie solo perché comportano un rischio. La nostra vita è pervasa da rischi e la tendenza del genere umano è di mitigarli, non di eliminare tutto ciò che è pericoloso per il solo fatto che comporta rischi, e per fortuna è così!

Su quali progetti, idee imprenditoriali sta lavorando? Con quali finalità e obiettivi? A chi sono rivolti e in che ambiti sono implementati?

MorphCast, il video che ti guarda e che ti elegge suo regista è ciò su cui sono impegnato attualmente. Fa uso di intelligenza artificiale per la rilevazione di oltre 50 caratteristiche del volto umano, fra cui naturalmente le espressioni emozionali. Questo progetto utilizza reti neurali profonde addestrate a riconoscere livello di attenzione, ingaggio, valenza, emozioni e molte altre cose sul volto di ogni sesso, età e razza. Lo scopo è di cambiare scena o presentare contenuti multimediali in base alle reazioni emotive dello spettatore. 

Nella mia visione infatti, i video lineari, uguali per tutti, saranno presto obsoleti perché non mettono lo spettatore al centro della storia. I video reattivi alle emozioni invece, li considero una naturale evoluzione nel modo di comunicare attraverso un video. Non è una novità, siamo abituati a fare la stessa cosa tutti i giorni, pensate ad un incontro fra due persone, ciò che una dice, esprime e il modo con cui lo fa non prescinde dal feedback che riceve dal volto dell’altra ma anzi ne è spesso conseguenza.  Adattarsi all’interlocutore è una attività molto frequente in molte occasioni. Ecco, io sto cercando di fare in modo che un video digitale sia capaci proprio di adattarsi ad ogni singolo spettatore che ne diventa quindi un po’ il regista e non solo passivo fruitore.

E’ ingaggiante vero?

Ho poi scoperto molte applicazioni interessanti, come per esempio misurare le performance di attenzione prestata alle lezioni online da parte degli studenti per creare nuovi challenge per gli studenti stessi ma anche per i professori. Abbiamo scoperto che nel mondo della pubblicità un video reattivo alle emozioni dello spettatore porta ad un ingaggio straordinario, pensi, il 45% delle persone che iniziano l’esperienza, la portano in fondo, contro solo il 6% di un video lineare classico. Abbiamo scoperto anche che per i pubblicitari, essere certi che il video promozionale di una certa marca è stato visto da persone reali, che provano emozioni e non dai molti BOT che agiscono fraudolentemente nella rete, è un grande valore aggiunto.

Sono molte le applicazioni possibili, dalle risorse umane alla didattica, dalla pubblicità alle videoconferenze, ovunque insomma ha senso avere dati rilevanti sulle emozioni di chi sta dall’altra parte o che fruisce di un contenuto media specifico. Anche in tema di salute è interessante l’uso di questo tipo di AI per rilevare le espressioni ed emozioni nei pazienti sottoposti a stimoli.

Oggi tutti parlano di Intelligenza Artificiale ma probabilmente lo fanno senza una adeguata comprensione di cosa sia, delle sue diverse implementazioni, implicazioni ed effetti. Anche i media non favoriscono informazione, comprensione e conoscenza. Si confondono IA semplicemente reattive (Arend Hintze) come Deep Blue o AlphaGo, IA specializzate (quelle delle Auto), IA generali (AGI o Strong AI) capaci di simulare la mente umana e di elaborare loro rappresentazioni del mondo e delle persone, IA superiori (Superintelligenze) capaci di avere una coscienza di sé stesse fino a determinare la singolarità tecnologica. Lei che definizione da dell’intelligenza artificiale, ...

Il mio approccio alla tecnologia è funzionale al raggiungimento di un obiettivo e non fine a sé stesso. Non sono accanito consumatore di nuove tecnologie ma nemmeno sono contrario al loro uso, semplicemente ho un approccio utilitaristico, se servono a uno scopo penso che vadano adottate.

L’intelligenza artificiale è un modo di utilizzare i computer perché svolgano un lavoro senza che qualcuno abbia inserito un programma che tiene conto di ogni evento possibile e conseguenti azioni da intraprendere ma istruendolo come fosse un bambino di due anni che sta imparando dal confronto e dall’esperienza ed  ancor più dagli errori.

Un algoritmo di intelligenza artificiale, per esempio, è in grado di imparare degli errori se sottoposto alla visione di immagini di volti umani giovani o vecchi. Passando al vaglio molte immagini di volti diversi e a volte sbagliando a volte no, modifica i suoi parametri automaticamente e pian piano inizia a sbagliare sempre meno fino quasi a raggiungere, dopo un numero considerevolmente grande di prove, la capacità di discernimento fra giovane e vecchio, tipica di noi umani. E il bello sta nel fatto che qualsiasi nuovo volto gli venga presentato, mai visto prima, è in grado di dire se è giovane o vecchio. Proprio come noi. E nessuno ha inserito informazioni tipo che le rughe denunciano una età avanzata ma semplicemente gli viene fornito una immagine con una etichetta “vecchio” o “giovane”.

Quanto ci vuole a mettere a punto un algoritmo classico per azzeccare l’età di un volto? Moltissimo, in termine di mesi. Quanto ci vuole a addestrare un modello di intelligenza artificiale per fare questo lavoro? Poche ore. Ecco perché la AI viene adottata e lo sarà sempre più, perché risolve problemi di costo e fatica oltre a spostare in avanti i limiti di capacità dei nostri smartphone e PC.

...quale pensa sia il suo stato di evoluzione corrente e quali possono essere quelle future?

Non sono abbastanza esperto da entrare nel dettaglio tecnico di questo argomento, ma penso che presto si evolveranno algoritmi capaci di fare cose impensabili poco tempo fa per una macchina e altri che sostituiranno tutti i programmi deterministici che ancor oggi vengono codificati nelle macchine.

L’AI, di più facile utilizzo, è infinitamente più efficiente.

La sua diffusione sarà certamente pervasiva, ovunque ci sarà AI, anche nei campanelli di casa, anche nelle chiavi dell’auto, nei registratori di cassa e in qualsiasi altro apparecchio o accessorio utile. Perché lo penso? Perché ciò che da più risultato con meno sforzo è sempre stato ambito da tutti gli esseri umani e non vedo perché ciò non debba accadere anche per l’AI come è accaduto per l’elettronica, i personal computer, gli smartphone… Oggi dovunque c’è un computer, anche nella lampada da tavolo a led ormai, per non parlare delle tv, radio, scooter e anche biciclette…

Pensa che sia possibile in futuro una Superintelligenza capace di condurci alla Singolarità nell’accezione di Kurzweil?

Non lo so, però confido che il futuro sia molto simile a ciò che oggi viene scritto e creato nei film di fantascienza, come è sempre succeso fin dai tempi di Giulio Verne. Quindi si, penso che potrebbe accadere. Saranno le sfide del futuro come quelle di oggi erano quasi impensabili per i nostri antenati.

L’IA non è una novità, ha una storia datata anni ‘50. Mai però come in questi tempi si è sviluppata una reazione preoccupata a cosa essa possa determinare per il futuro del genere umano. Numerosi scienziati nel 2015 hanno sottoscritto un appello (per alcuni un modo ipocrita di lavarsi la coscienza) invitando a una regolamentazione dell’IA. Lei cosa ne pensa?

Penso che oggi se ne parla perché è di dominio pubblico in quanto l’AI ha penetrato il mercato consumer agendo anche negli smartphone oltre che nei PC e non solo nei super computer neurali degli scienziati.

Una qualsiasi scheda grafica per videogame, dal costo di qualche centinaio di euro, è il computer adatto a far girare modelli di AI estremamente potenti capaci di vincere partite a scacchi contro l’essere umano più esperto, spostando i limiti conosciuti per tali macchine dal costo di un migliaio di euro complessivamente. Se pensa che uno smartphone è capace egregiamente di far girare la AI che utilizziamo nel nostro progetto, ecco che si pongono domande etiche e di privacy che fino a ieri non erano considerate altro che filosofie fra scienziati, solo perché oggi può “agire” nelle mani di tutti noi.

È per lasciare libera ricerca e implementazione o per una regolamentazione della IA?

Alcune affermazioni correnti mi fanno sorridere pensando a quando fu inventato il treno a vapore e alcuni scienziati avevano il timore che il sangue dei viaggiatori si accumulasse tutto dalla parte contraria al moto superando i 70k/h. e che ciò potesse essere un rischio per la salute o addirittura provocare la morte. O come più di recente, l'uomo ha temuto per la perdita di capacità di calcolo a causa delle prime calcolatrici Texas Instrument a diodi rossi, per non parlare del dramma dell'umanità previsto da molti negli anni 80 con l'avvento dei microprocessori che avrebbero, a loro giudizio, sostituito l'uomo nella maggior parte dei compiti lavorativi. E così è stato ma hanno generato anche un bacino di occupazione qualificata (informatici e non solo) che ancor oggi è in crescita e non ha mai visto crisi. 

Io penso che sono trasformazioni volute dall'umanità intera che in maniera automatica e democratica decide di utilizzare questa o quella invenzione perché utile o divertente o entrambe le cose nel migliore dei casi.

L’essere umano ha una capacità di adattamento eccezionale e ogni cambiamento permesso dalle nuove tecnologie corrisponde ad un balzo avanti nella sua evoluzione che, ricordo, sta avvenendo da milioni di anni. Non è facilmente prevedibile come sarà l’uomo di domani, ma io sono convinto che sarà in grado di superare brillantemente anche questa sfida evolutiva.

Ritengo comunque adeguato giudicare le nuove tecnologie rischiose per l'umanità. Ma qualsiasi cosa è rischiosa, ancor più lo era quando c'era meno tecnologia.

Sono personalmente propenso invece ad affermare che come in tutte le occasioni di evoluzione c'è una minoranza di reazionari conservatori che vedono solo i difetti o i problemi o i rischi nel cambiamento che, intendiamoci, è inevitabile perché voluto dai più. E per fortuna! 

Sarà un pensiero spietato ma concreto e realistico giacché niente si può fermare affermando che ci sono dei rischi, se tutti lo vogliono. Sarebbe come non usare più le auto perché costituiscono un rischio. Invece, a tal proposito, oggi le forniscono di nuove tecnologie (AI) capaci di rendere un viaggio in auto 700 volte meno rischioso. 

L'evoluzione ha sempre qualcosa di spietato in se, questo è vero, ma non può essere fermata, qualsiasi sfida o pericolo costituisca.

Impareremo ad adattarci ed a evolvere le proprietà umane con più velocità, demandando alle macchine il lavoro che sanno far meglio di noi. 

Chi si sogna oggi di fare i calcoli a mano o di usare la macchina da scrivere? Fra qualche decina di anni nessuno si sognerà di guidare una auto in autostrada. Lo fa meglio un computer dotato di AI. È più sicuro, è più affidabile, non si stanca nè si distrae. Tanto meno usa il telefonino mentre guida o beve un paio di birre prima di mettersi al volante. 

Tutti i rischi che ciò comporta non sono azzerabili ma gestibili, per esempio con regole precise e chiare che ne moderano i possibili usi impropri. È di recente che un’automobile è giuridicamente assimilabile a un’arma. Ciò ha ridotto il numero di assassini sulle strade, ma non si sogna nessuno di vietare l'uso lecito e corretto di un’auto.

Le revisioni obbligatorie, il divieto di transitare nei centri abitati per le vetture che non hanno i requisiti di salvaguardia ambientale, la guida in stato di ebbrezza sono alcuni esempi di normative atte a ridurre i rischi dell'uso dell'auto. E sono recenti, mentre l'auto è una tecnologia che usiamo da molti decenni. Immagino che lo stesso accadrà per l' AI, come è accaduto di recente per le scienze biologiche capaci di clonare esseri umani.

Sarà una bella sfida per l'umanità. Su questo non c'è dubbio.

Non crede che qualora le macchine intelligenti rubassero il comando agli esseri umani, per essi la vita avrebbe meno senso?

Può darsi ma che lo creda o no, non fa nessuna differenza dal mio punto di vista. E’ mai riuscito l’uomo a evitare di fare qualcosa che potenzialmente è pericoloso per se stesso? No.

Magari, sperimentando e sbagliando, pagandone le conseguenze, ha trovato la strada per normare e limitare l’uso a ciò che può essere meno rischioso pur mantenendone i vantaggi. Confido in questo per i nostri pronipoti. Insomma, l’essere umano impara anche rischiando e sbagliando, proprio come l’ AI, cercare di evitare gli errori non credo sia possibile in assoluto.

A preoccupare dovrebbe essere la supremazia e la potenza delle macchine ma soprattutto l’irrilevanza della specie umana che potrebbe derivarne. O questa è semplicemente paura del futuro e delle ibridazioni che lo caratterizzeranno?

Confido nella capacità di evolversi dell’essere umano. Pronosticare una vita senza senso non mi pare realistico.

Secondo il filosofo Benasayag le macchine sono fatte per funzionare bene, noi per funzionare (processi chimici, ecc.) ed esistere (vivere). Gli umani non possono essere ridotti a una raccolta di (Big) dati o al calcolo binario, hanno bisogno di complessità, di un corpo, di senso, di cultura, di esperienze, di sperimentare la negatività e il non sapere. Le macchine no e mai ne avranno necessità. O secondo lei si? Non crede che fare completo affidamento sulle macchine ci porti all’impotenza?

Abbiamo scelta secondo lei? Io non credo.

Se le macchine raggiungeranno l’intelligenza dell’essere umano e saranno a noi superiori, saranno al vertice della piramide ed è possibile che la razza umana soccomberà. Bene, pensiamo di evitarlo filosofeggiando oggi su questo pericolo? Siamo realisti, oggi non siamo in grado, non abbiamo gli strumenti, per determinare con ragionevole certezza possibilità di tale portata. Potevamo essere spazzati via dalle bombe nucleari durante la guerra fredda, non è successo, ma poteva succedere facilmente. Per questo qualcuno prima appena inventata la bomba atomica ha fatto qualcosa di più che ipotizzare una tale tremenda sciagura?

Se le macchine prenderanno il comando, sarà vita dura per gli esseri umani ed è possibile che ogni paese e razza si unisca nella guerra alle macchine.

Chi vincerà non lo sa nessuno. Ma nemmeno se accadrà

Nel suo ultimo libro (Le cinque leggi bronzee dell’era digitale), Francesco Varanini rilegge a modo suo e in senso critico la storia dell’intelligenza artificiale. Lo fa attraverso la (ri)lettura di testi sulla IA di recente pubblicazione di autori come: Vinge, Tegmark, Kurzweil, Bostrom, Haraway, Yudkowsy, e altri. La critica è rivolta ai tecno-entusiasti che celebrando l’avvenire solare della IA si mettono, “con lo sguardo interessato del tecnico” dalla parte della macchina a spese dell’essere umano. È come se attraverso l’IA volessero innalzare l’uomo proprio mentre lo stanno sterilizzando rendendolo impotente, oltre che sottomesso e servile. Lei da che parte sta, del tecnico/esperto/tecnocrate o dell’essere umano o in una terra di mezzo? Non la preoccupa la potenza dell’IA, la sua crescita e diffusione (in Cina ad esempio con finalità di controllo e sorveglianza)?

No, non mi preoccupa ma ciò non significa niente poiché pre-occuparmi non fa parte della mia indole, piuttosto mi occupo di qualcosa nel momento che ritengo sia il momento di occuparsene e oggi, per ciò che conosco della AI, non vedo il motivo di occuparmi di fare azioni di freno sulla sua evoluzione. E’ pur sempre una emanazione dell’essere umano e in quanto tale, ancora controllabile da esso. Sul futuro non ho la l’ambizione di poterlo prevedere.

Riguardo all’esempio della Cina, ho seguito una intervista dove persone cinesi dichiaravano che con l’uso di AI in funzioni di controllo, si sono abbassate le possibilità di errore e di conseguenza anche di essere ingiustamente perseguitati. Personalmente ho una posizione neutra e rispettosa delle opinioni ma questa affermazione mi ha fatto riflettere anche da un punto di vista diverso. Non concordo per esempio con il divieto di far uso del riconoscimento facciale alle forze dell’ordine di San Francisco.

Mi sembra assurdo non dotare le forze dell’ordine di uno strumento più efficace dello schedario classico e dei confronti soggettivi per individuare un delinquente. Non le paghiamo proprio per renderci la vita più sicura a chi sta alle regole? Vogliamo togliere le armi alle forze dell’ordine per evitare che ne facciano un uso improprio?

Ai tempi del Coronavirus molti si stanno interrogando sulla sparizione del lavoro. Altri invece celebrano lo smartworking e le tecnologie che lo rendono possibile. Là dove lo smartworking non è possibile, fabbriche, impianti di produzione, ecc., si diffonde la robotica, l’automazione e l’IA. Il dibattito sulla sparizione del lavoro per colpa della tecnica (capacità di fare) / tecnologia (impiego della tecnica e della conoscenza per fare) non è nuovo, oggi si è fatto più urgente. Le IA non stanno sostituendo solo il lavoro manuale ma anche quello cognitivo. Le varie automazioni in corso stanno demolendo intere filiere produttive, modelli economici e organizzativi. Lei cosa ne pensa? L’IA, per come si sta manifestando oggi, creerà nuove opportunità di lavoro o sarà protagonista della distruzione di posti di lavoro più consistente della storia come molti paventano? Alcuni sostengono che il futuro sarà popolato di nuovi lavoratori, tecnici che danno forma a nuove macchine (software e hardware), le fanno funzionare e le curano, tecnici che formano altri tecnici e ad altre forme di lavoro associate al funzionamento delle macchine tecnologiche. Sarà veramente così? E se anche fosse non sarebbe per tutti o per molti! Si verrebbero a creare delle élite ma molti perderebbero comunque il lavoro, l’unica cosa che per un individuo serva a essere sé stesso. Nessuna preoccupazione o riflessione in merito?

E’ sempre successo così. La crescente occupazione, che non ha mai visto crisi, nel mondo dell’informatica e dell’informazione ha sostituito, spingendo all’evoluzione, i lavori più semplici, del passato, lasciati ai robot. In ogni step dell’evoluzione dell’umanità ci sono persone che soffrono e persone che ne beneficiano.

Non è pensabile che si possa evitare l’evoluzione per salvaguardare chi ne soffre. Piuttosto dovremmo invece evolversi considerando tutto ciò e mitigarne solidariamente gli effetti negativi.

Gli strumenti ci sono ma la coscienza politica per attuarli ancora no e questo però non è responsabilità delle nuove tecnologie ma piuttosto della cattiveria ed egoismo umano.

L’IA è anche un tema politico. Lo è sempre stato ma oggi lo è in modo specifico per il suo utilizzo in termini di sorveglianza e controllo. Se ne parla poco ma tutti possono vedere (guardare non basta) cosa sta succedendo in Cina. Non tanto per l’implementazione di sistemi di riconoscimento facciale ma per le strategie di utilizzo dell’IA per il futuro dominio del mondo. Altro aspetto da non sottovalutare, forse determinato dal controllo pervasivo reso possibile dal controllo di tutti i dati, è la complicità del cittadino, la sua partecipazione al progetto strategico nazionale rinunciando alla propria libertà. Un segnale di cosa potrebbe succedere domani anche da noi in termini di minori libertà e sparizione dei sistemi democratici che ci caratterizzano come occidentali? O un’esasperata reazione non motivata dal fatto che le IA possono comunque essere sviluppate e governate anche con finalità e scopi diversi?

Propendo per la seconda ipotesi, cioè che l’IA ma qualsiasi altra conquista dell’uomo e non solo l’IA dovrebbe essere sviluppata e governata con finalità e scopi diversi.

Siamo dentro l’era digitale. La viviamo da sonnambuli felici dotati di strumenti che nessuno prima di noi ha avuto la fortuna di usare. Viviamo dentro realtà parallele, percepite tutte come reali, accettiamo la mediazione tecnologica in ogni attività: cognitiva, relazionale, emotiva, sociale, economica e politica. L’accettazione diffusa di questa mediazione riflette una difficoltà crescente nella comprensione umana della realtà e del mondo (ci pensano le macchine!) e della crescente incertezza. In che modo le macchine, le intelligenze artificiali potrebbero oggi svolgere un ruolo diverso nel rimettere l’uomo al centro, nel soddisfare il suo bisogno di comunità e relazioni reali, e nel superare l’incertezza?

L’incertezza non ritengo debba essere superata, fa parte della vita da sempre. Forse dimentichiamo che l’incertezza nella storia è tanto più maggiore quanto più si va a ritroso.

La certezza non è l’obiettivo dell’essere umano, non lo è mai stato e probabilmente mai lo sarà. Riguardo alle difficoltà crescente della comprensione umana della realtà e del mondo, non sono d’accordo, penso che sia una paura di persone di una certa età. Io ho quattro figlie giovani, nate e cresciute in questa dimensione “di accettazione diffusa di questa mediazione” e non vedo in loro questa difficoltà. Semplicemente è un mondo diverso, non per questo peggiore.

 

comments powered by Disqus

Sei alla ricerca di uno sviluppatore?

Cerca nel nostro database


AnguriaLab

Mobile Apps & WebApps for agencies and companies. Reusable and flexible components...

Vai al profilo

NERDYDOG

NerdyDog Web Agency è specializzata nello sviluppo applicazioni per mobile in...

Vai al profilo

Mobijay

Produzione app per dispositivi mobili

Vai al profilo

Sanmarco Informatica

Conoscenza, consapevolezza, spirito di gruppo, sono le parole che riassumono il nostro...

Vai al profilo