Quale IA preferite per questioni tecniche ingegneristiche

[marcoaroma]

Per chi la utilizza nel proprio lavoro di ingegnere, con quale vi trovate meglio (Chat GPT, Gemini, ecc.) e in che modo? Per esempio se la usate a pagamento oppure no, se con le immagini è meglio una rispetto all'altra, oppure con le tabelle, ecc..

[Ronin]

AI gratuita con dati personali di clienti è una violazione di legge, quindi lo sconsiglio, qualunque sia l'AI.
in teoria si potrebbe fare pseudonimizzando i documenti (Ci sono strumenti gratuiti come rizzo pii), ma poi sei tu responsabile del trattamento dati (la pseudonimiazzazione, cioè la sostituzione dei dati personali con sigle e codici, è un trattamento), e il tempo perso per fare la conversione (pseudonimizza - carica su AI e lavoraci - scarica e de-pseudonimizza) secondo me rende il processo antieconomico (cioè si perde più tempo di quel che si guadagna).

io uso claude a pagamento; li ho provati tutti (tranne l'ultimo chatgpt 6, non ho più voglia), e per lavoro tecnico gli altri non reggono il confronto.
va impostata con il cosiddetto zero data retention (cioè che non usi i tuoi dati per addestrare i suoi modelli: l'opzione predefinita è il contrario).
inoltre per uso lavorativo (cioè con dati personali dei clienti) non vanno bene i piani max/pro, ci vuole il piano claude team (che parte da due postazioni minimo...), che offre un DPIA e quindi può essere ritenuto conforme GDPR (anche se non ha la data residency, cioè i server non sono nello spazio UE: ma per uno studio professionale che non tratta dati critici si può ritenere che vada bene).
chatgpt non mi risulta avere un piano conforme al GDPR (ma la situazione potrebbe essere cambiata: ho avuto brutte esperienze, quindi lo ho tagliato, bisogna anche lavorare...).

di gemini ho ancora un piccolo abbonamento google AI plus che uso per produrre immagini (claude non le fa) e gemini notebook (anche questo non è conforme con documenti con dati personali dei clienti: ma per documenti tecnici generali è formidabile).
e poi uso perplexity gratis per le ricerche (con il piano free fai solo tre deep research al giorno; ma spesso mi accontento della ricerca base, che è comunque molto meglio di tutti gli altri, anche di claude).

non c'è uno strumento migliore. il mio flusso di lavoro attuale è ricerca con perplexity, una volta definito il contesto lo passo a claude e ci lavoro (dopo aver finito, se il lavoro è importante di solito apro una nuova chat e gli chiedo una revisione critica), poi se ho bisogno di immagini chiedo a claude di generare istruzioni per gemini (che gli passo io con il copia e incolla, non ne genero molte), mentre per infografiche c'è napkin, con i 500 crediti al mese del piano gratis quelle che mi servono (poche...) finora le ho sempre fatte.

con il piano base di claude (pro personale, standard per team) hai anche le funzioni integrate in powerpoint-word-excel (ci vuole microsoft office 365 però), con cui si lavora direttamente dentro i documenti di office, ma comunque anche documenti generati "da fuori" (direttamente nella chat) vengono ottimi e possono "prendere esempio" come stile e layout da quelli che hai già fatto.
gemini è bello perchè è integrato in tutto (gmail, docs, workspace, maps, praticamente tutta la suite di strumenti google è ormai un'unica applicazione AI), ma io nel mio lavoro in realtà non ne uso praticamente nessun pezzo (e comunque l'abbonamento gratis con l'account google free non è conforme gdpr neanche lui).
nel periodo in cui ne usavo più d'uno, notavo che claude era l'unico che ogni tanto mi diceva: ma io non lo farei così, secondo me è meglio cosà; questo mi ha impressionato molto (gli altri ti assecondano; chatgpt fino alla versione 5 inventava addirittura, pur di assecondarti, il 6 non so, ma bisogna starci attenti), poi hanno inventato le skill e il protocollo MCP che sono strumenti formidabili, per cui mi sono fidelizzato.
almeno per ora (evoluzione in corso: edge AI, dentro la nostra rete aziendale, su modelli locali, con privacy dei dati assoluta; la "AI per lavoro da ingegnere" è molto più del chatbot: prima o poi bisognerà parlarne).

[arkanoid]

Al momento chatgpt a picco, poco utile, tantissimi errori. Gemini segue a ruota. Claude molto meglio.
Ma a dire la verità attualmente quasi solo script python e lisp.

[Tom Bishop]

Claude il migliore, ma devi saperlo usare bene.

[marcoaroma]

Sto facendo esperienza con le varie IA, soprattutto con Claude. Per il fatto se si utilizzando dati di terzi, come scriveva Ronin, si deve almeno fare un piano team cha ha 2 postazioni minimo per circa 50 €/mese.
Ho letto anche che si può risparmiare l'abbonamento pagando a consumo e mantenendo sempre il discorso privacy avendo un DPA a norma GDPR, tramite software che si collega alle API di un IA e pagando solo in base alle quantità di output e input. I software che fanno da interfaccia sono per esempio Typindmind, Dify, Flowise.
Avete mai usato questa modalità di utilizzo di IA, cioè software abbinato ad API?

[Ronin]

flowise e dify non sono "solo" software per il collegamento all'AI tramite API, ma vere e proprie soluzioni di AI agentica (implementano cioè metodi e strumenti per automatizzare processi complessi, in cui l'agente prende anche decisioni autonome sulla base di ragionamento aperto, non si limita a scegliere opzioni da un elenco preimpostato di if..then); l'altro non lo conosco (ragionevolmente si tratta di TypingMind, anche lui è un'interfaccia per agenti, ormai ce ne sono più che per i modelli LLM).
comunque quei software servono per andare molto oltre l'uso come chatbot interattivo, e non per passare da abbonamento a token (devono essere usati a token perchè l'abbonamento fisso verrebbe "consumato" in tempi molto brevi): claude stesso si può ottenere con modalità a token, che tra l'altro è l'unica disponibile sopra i 150 utenti (il piano team di più non ne dà); è il piano enterprise, che tra l'altro è l'unico conforme GDPR per dati critici o comunque che richiedono la data residency (in questa modalità è disponibile su servizi cloud che mantengono i dati dentro la UE, sui server AWS che stanno a francoforte, ad es., oppure su google vertex o come_si_chiama_adesso) e la cosiddetta osservabilità (ovvero la tenuta di un log che permette di ricostruire esattamente chi ha fatto cosa e quando: col piano team non si riesce, almeno non nei contesti in cui lo usa un dipendente, il log lo vede solo lui e non la sua azienda).

che si risparmi pagando a token (cioè a consumo) invece che ad abbonamento fisso però non è detto, anzi di solito è il contrario.
misurazioni fatte da indipendenti sul piano claude max (corrispondente più o meno al premium di team) mostrano che pagato a token lo stesso uso (fino a saturazione del limite del piano fisso) sarebbe da 5 a 10 volte più costoso: di fatto gli abbonamenti sono finanziati dalle aziende AI per fidelizzare utenti che a consumo non sarebbero disposti a pagare cifre molto più alte, "rifacendosi" sulle aziende/enti che devono per forza passare da piani enterprise per requisiti normativi o di sicurezza interna (o anche solo per dimensione).
l'uso della modalità a token "per risparmiare" con claude avrebbe quindi senso solo se compri due sedie per compliance, ma poi lo usa solo una persona e comunque senza raggiungere i limiti del piano standard, in quanto il piano enterprise ti fa pagare comunque i 20 €/mese, PIU' i token che consumi a parte.
per risparmiare si dovrebbero scegliere soluzioni senza la quota fissa, l'unica che mi viene in mente è mistral (che tra l'altro è ospitato in UE, essendo francese).

se decidi di usare dify (o flowise, o altri), devi pagare l'abbonamento a dify (oppure installarti in casa sul tuo hardware la versione open source) PIU' l'abbonamento a un modello LLM che gira "sotto" dify e gli fornisce l'AI di base, che poi dify chiama tramite API (esistono servizi che collegano tramite API diversi LLM con un certo numero di token gratuiti, come OpenRouter, ma in questo modo qualsiasi idea di conformità GDPR/AI act va a carte quarantotto).