I have published my initial #OpenBSD #WPA3 implementation.

Thanks to @nlnet for supporting this effort.

Cc @vanhoefm

https://marc.info/?l=openbsd-tech&m=178437520390575&w=2

@godotengine LOUDER !

AI contributions have the added pain of being demoralizing. Reviewing PRs is already tedious work, but it is rewarding because reviewers generally feel that their efforts are contributing to educating a new contributor (who may become a future maintainer/reviewer). If your feedback on PRs is just being absorbed by a machine and not going towards mentoring a potential future maintainer, it becomes much harder to justify spending your free time on PR review.

A horror story in 8 words

Hot diggity dog.

The briefing concludes that standalone generative AI systems, based on unlawful web scraping, depend on mass invasions of privacy by design, and are fundamentally incompatible with [International Human Rights Law]. As such, Amnesty International is calling for a prohibition of such systems, including where such systems are identified as exacerbating existing inequalities or creating new forms of discrimination.

https://www.amnesty.org/en/documents/pol40/0996/2026/en/

and because I don't want @mwl to feel left out of the meme fun…

C’è un fantasma che si aggira per il mondo moderno, ed è il transumanesimo. Che fosse permeato da un certo fascismo, e in particolare frequentato da parecchi movimenti fascisti o parafascisti, lo avevo già notato anni fa, quando decisi prudentemente di tenermene alla larga. Non era difficile accorgersene: bastava osservare chi ne parlava, con quali parole, con quali ossessioni, con quale idea dell’uomo e della società. Oggi, con vari miliardari come Elon Musk e Peter Thiel che ne parlano esplicitamente — e credetemi, gli altri miliardari oligarchi della tecnologia si uniranno presto, appena capiranno che aria tira — è tempo di farsi qualche domanda.

La prima cosa che spicca è, chiaramente, che il transumanesimo sembra essere diventato l’ideologia sociale e politica dei tecno-oligarchi. E qui tutti quelli che vedono rosso appena si parla di tecnologia stanno già caricando come tanti tori alla ricerca di un lenzuolo, purché rosso. E, intendiamoci, hanno anche qualche ragione per caricare. L’idea di un corpo potenziato al punto da non morire mai, o addirittura l’idea di un backup della coscienza su qualche cloud, è già abbastanza borderline di suo. Quando poi ci sono persone che costruiscono datacenter immensi e altre persone che mettono chip nel cervello, è abbastanza chiaro a cosa stiano pensando, o almeno quale immaginario stiano vendendo.

Non è necessario essere complottisti per accorgersi che il pacchetto narrativo è sempre quello: superare il corpo, superare la morte, superare i limiti biologici, superare l’umano. Il problema è che, nella bocca di un miliardario, “superare l’umano” raramente significa migliorare la vita di tutti. Molto più spesso significa costruire una nuova gerarchia, nella quale chi può permettersi il potenziamento diventa qualcosa di diverso, e chi non può permetterselo rimane semplicemente carne di scarto, materiale umano non aggiornato all’ultima release.

Da immaginare un’umanità libera da malattie, morte, ignoranza e paura, sino ad arrivare alla realtà concreta del fatto reale, il tratto è lungo. Ed è costituito principalmente da un fatto, abbastanza banale ma spesso rimosso: solo questi tecno-miliardari possono permettersi davvero le tecnologie di cui si parla.

Se domani Musk volesse diventare bionico, potrebbe probabilmente farsi impiantare un qualsiasi apparato capace di NFC, RFID e quant’altro, e cominciare a comunicare direttamente con le macchine usando il proprio corpo come interfaccia. Il giorno in cui una protesi sarà più forte, più precisa o più efficiente di un braccio vero, non ho dubbi che il solito Musk potrebbe anche scegliere di farsi trapiantare un braccio bionico, magari presentandolo come il prossimo passo dell’evoluzione, o come una demo per investitori con abbastanza luci al neon.

Ma diciamolo pure: chi altri se lo potrebbe permettere?

E non mi riferisco soltanto ai costi, che già basterebbero a chiudere la discussione. Mi riferisco anche al problema legale, medico, politico. Un medico che amputasse un braccio sano a qualcuno, anche per sostituirlo con una protesi sovrumana, verrebbe probabilmente espulso dall’ordine, e forse finirebbe anche in tribunale. Non stiamo parlando di una terapia, ma di mutilare un corpo sano per trasformarlo in una piattaforma hardware.

Potrebbe farlo per Elon Musk? Molto più probabilmente sì, semplicemente perché Musk ha abbastanza denaro, abbastanza avvocati, abbastanza lobbisti e abbastanza relazioni nelle posizioni di potere da poter spostare il confine tra “vietato” e “innovativo” a seconda della necessità del momento. E questo è il punto che viene sempre tenuto fuori dalla propaganda transumanista: il limite non è soltanto tecnologico. Non è soltanto una questione di ricerca, di scienza, di ingegneria o di “quando ci arriveremo”.

Il limite è economico e legale. Ovvero, detto in maniera meno elegante ma più precisa: il limite è il potere.

Ed ecco per quale motivo appare fascista. A farla apparire fascista non è semplicemente il fatto che tanti esponenti del mondo della destra, o dell’estrema destra, se ne sentano attratti come falene davanti a una lampada al neon. Quello è un sintomo, non la malattia. Il problema vero è che, per come è costruita la società, questo controllo sul proprio corpo è concesso soltanto ai più potenti.

E quando il controllo sul corpo, sulla salute, sulla longevità, sulla capacità cognitiva, sulla possibilità stessa di “migliorarsi” diventa un privilegio di classe, allora non siamo più nel campo della liberazione umana. Siamo nel campo della gerarchia. E quando una gerarchia biologica, economica e politica viene presentata come destino naturale, evoluzione inevitabile o merito individuale, siamo già dentro un immaginario che puzza di fascismo anche senza bisogno di camicie nere, saluti romani e gente che urla da un balcone.

Se ci pensate, quasi tutte le ultime novità stanno operando allo stesso modo. Stiamo parlando di un mondo che passa da “tutto gratis” a “se vuoi prestazioni almeno decenti paga 23 dollari al mese”, come succede con la AI. E se poi vuoi davvero le prestazioni buone, se vuoi qualità, continuità, potenza di calcolo, modelli migliori, accesso privilegiato, strumenti professionali, allora non stiamo più parlando del giocattolino da venti dollari: a seconda delle prestazioni richieste, o della qualità richiesta, si arriva anche a una trentina di migliaia di euro l’anno.

Il meccanismo è sempre lo stesso. Prima si presenta la tecnologia come emancipazione universale. Poi, quando tutti hanno interiorizzato che quella tecnologia è necessaria, arriva il listino prezzi. A quel punto la promessa “sarà per tutti” diventa “sarà per tutti quelli che possono pagare”. E la differenza, come sempre, non è un dettaglio tecnico. È l’intero progetto politico.

Vediamo in giro donne bellissime che vengono a raccontarci che i sessant’anni sono i nuovi quaranta. Assolutamente. Ed è anche verissimo, per carità: oggi è possibile arrivare a sessant’anni in condizioni fisiche, estetiche e sociali che una volta erano molto più rare. Solo che, in quelle condizioni, la vita vi costa quei centomila dollari l’anno in più.

Ed è qui che la narrazione comincia a scricchiolare.

È una cifra enorme? Dipende da dove state guardando il mondo. Per un ceto medio-alto in su, negli Stati Uniti, probabilmente no. E non lo è nemmeno in molte aree d’Europa, almeno per quella fascia sociale che può pagare medicina preventiva, palestra, personal trainer, dermatologi, nutrizionisti, esami continui, viaggi, tempo libero, alimentazione di qualità, sonno regolare, case decenti e la possibilità di non spaccarsi la schiena per vivere.

Ma la donna normale, quella che non guadagna centomila dollari l’anno, o che magari quei centomila dollari non li vede nemmeno sommando due stipendi e un miracolo, non sarà mai una “nuova quarantenne”. Non sarà mai una “perennial”, come piace dire a chi vende cosmetici, corsi, integratori, chirurgia estetica e illusioni confezionate in inglese.

Non perché le manchi la volontà. Non perché “si lasci andare”. Non perché non abbia capito il segreto dell’acqua tiepida con limone al mattino. Ma perché il corpo invecchia anche in base alle condizioni materiali in cui vive. E se lavori troppo, dormi poco, mangi quello che puoi permetterti, rimandi le visite mediche, non hai tempo per allenarti e magari passi anni a occuparti degli altri prima ancora che di te stessa, allora i sessant’anni non diventano i nuovi quaranta. Diventano semplicemente sessant’anni, con tutto il peso sociale, economico e biologico che ci è stato scaricato sopra.

Ho comprato un PC per farci girare sopra dei modelli decenti di AI. Ora, è vero che scaricherò questo costo come rimborso spese nella dichiarazione dei redditi, e quindi non è esattamente la stessa cosa che comprarlo per giocare a Doom con le lucine RGB. Ma d’altro canto, la cifra che ho pagato in Italia corrisponde più o meno a cinque stipendi mensili.

Cinque.

E allora la domanda diventa inevitabile: siamo proprio sicuri che l’odio verso la AI derivi davvero dal fatto che sarebbe intrinsecamente malvagia? Siamo sicuri che il problema sia soltanto filosofico, etico, spirituale, artistico, il solito coro delle anime belle che difendono l’umanità dalla macchina cattiva? Oppure, molto più banalmente, una parte di quell’odio viene da quelle classi sociali che non possono permettersi quattromila euro per una scheda grafica, un computer adeguato, la corrente elettrica per farlo girare, il tempo per imparare a usarlo e magari anche la competenza tecnica per farci qualcosa di utile?

Perché questo è il punto che viene detto molto poco. La AI, oggi, è raccontata come una specie di invasione aliena. Arriva, distrugge il lavoro, sostituisce le persone, uccide la creatività, ruba l’anima, mangia i bambini e probabilmente parcheggia pure in doppia fila. Ma, nella pratica, chi può permettersi di usarla bene la usa. Chi può comprarla, la integra. Chi può pagare gli strumenti migliori, li paga. Chi può assumere persone capaci di automatizzare pezzi di lavoro, lo fa. E chi invece non può permettersela la subisce come una minaccia calata dall’alto.

Siamo sicuri che, se fosse disponibile a prezzi ragionevoli, sarebbe odiata e disprezzata allo stesso modo? Siamo sicuri che, se ogni lavoratore potesse avere davvero accesso a strumenti potenti, locali, controllabili, senza dover dipendere dall’abbonamento mensile al padrone del cloud di turno, la reazione sarebbe la stessa? O siamo disposti a pensare una cosa molto meno nobile, ma molto più concreta: che se fosse disponibile anche a quelle classi di lavoratori che oggi la temono, forse diventerebbe semplicemente una parte del loro lavoro?

Perché è già successo, infinite volte. Una tecnologia appare. All’inizio è roba da ricchi, da aziende, da militari, da università, da gente che sta nel piano alto del palazzo. Poi scende, diventa accessibile, diventa normale, e a quel punto nessuno la chiama più apocalisse. La chiama strumento. Il problema, quindi, non è soltanto la AI. Il problema è chi la possiede, chi la paga, chi la controlla, chi può permettersi di usarla per aumentare il proprio potere, e chi invece deve aspettare che gli arrivi addosso sotto forma di licenziamento, algoritmo aziendale o abbonamento da ventitré dollari al mese.
Il mio sospetto è semplice: sospetto cioè che questo mondo di tecnologie emergenti non risulti fascista ai più perché esse siano “inerentemente” fasciste. Non credo che dentro una rete neurale, dentro una protesi, dentro un chip, dentro un modello linguistico o dentro un datacenter ci sia, per qualche misteriosa proprietà metafisica, il germe del fascismo.

Sono convinto, invece, che non risulterebbe tale se fosse disponibile senza costruire una gerarchia. Ovvero, senza essere distribuito secondo una scala di accesso che assomiglia sempre più a un sistema di caste travestito da listino commerciale:

•  gratis, se accetti di leggere cazzate; 
•  23 dollari al mese, se la vuoi accettabile; 
•  200 dollari al mese, se vuoi iniziare a lavorarci; 
•  20.000 dollari l’anno, se vuoi davvero lavorarci. 

Oppure, in alternativa, puoi spendere cinque dei tuoi stipendi per comprare un computer che la faccia girare a casa. A patto, naturalmente, di sapere già che tra un anno i tuoi modelli saranno troppo scadenti, la tua scheda grafica sarà vecchia, la tua RAM non basterà più, e qualcuno ti spiegherà con tono paterno che il progresso funziona così, che non puoi pretendere di stare al passo se non investi continuamente, e che in fondo la colpa è tua se non sei abbastanza competitivo.

Ed è qui che la tecnologia comincia ad assumere quella faccia lì. Non perché sia fascista in sé, ma perché viene introdotta in una società già gerarchica, già diseguale, già costruita per trasformare ogni innovazione in una nuova barriera di classe. La promessa è universale: intelligenza per tutti, salute per tutti, potenziamento per tutti, longevità per tutti, accesso per tutti. La pratica, invece, è sempre la stessa: un assaggio gratuito per addestrare il pubblico, un abbonamento minimo per non restare completamente indietro, un piano professionale per lavorare davvero, e poi il piano divino, quello per chi può pagare cifre che per molte persone sono semplicemente annualità di sopravvivenza.

A quel punto non stiamo più parlando di progresso. Stiamo parlando di selezione sociale automatizzata. Chi può pagare entra nel futuro. Chi non può pagare rimane nel presente, o meglio ancora nel passato, però con la colpa morale di non essersi aggiornato. E quando il futuro viene venduto a scaglioni di prezzo, non c’è bisogno che la tecnologia sia fascista per produrre un effetto fascista. Basta che sia distribuita come privilegio.

Il problema, cioè, non è il contenuto filosofico del transumanesimo, o almeno non soltanto. Non è la vecchia domanda da convegno, quella con il professore in giacca di velluto che si chiede se sia giusto superare i limiti dell’umano, se sia morale vivere più a lungo, se sia lecito potenziare il corpo, se la coscienza possa essere copiata, se una protesi migliori o snaturi l’identità personale.

Il problema vero è l’accesso.

Perché una filosofia che promette liberazione, ma diventa disponibile solo a chi ha abbastanza soldi e potere, smette immediatamente di essere liberazione.

#GitHub is going great.

Remember the issue where PRs wouldn't show up on repositories? Well, it turns out it wasn't fixed at all. #Microsoft just "resolved" the incident and is rejecting all reports about it now.

https://github.com/conda-forge/amplitude-analytics-feedstock/pulls is one example when you can't see the PRs.

See e.g. https://news.ycombinator.com/item?id=48219231

hahaa! Successfully removed all IR and UV filters from my old Canon EOS 600D, I can do full spectrum, UV and IR photography now!

All of the following photos have been taken with a ~550nm+ lpf, meaning cutting everything under 550nm (blue, purple and uv) off. I love the vibrant pink foliage and dramatic turquoise skies #photography

so i have been learning #sam and #acme properly and oh my god. acme is the best editor i have ever used. i love the fact that it really is an os interface in its own right. i have been completely underutilising it. i now have a setup on my second desktop at all times.

sam just seems like ed on steroids with a lot of the acme benefits of the mouse interface.

i am using acme for actual work or writing and i use sam for quick edits or config files.

#plan9 #plan9port #texteditor

@frederic Yes. People who couldn't be arsed to write a single word of documentation for their human colleagues suddenly don't have any issue at all with writing miles and miles of instructions for their AI colleagues.

Same for people who previously couldn't find time to mentor a student or new junior colleague because "it's too much work to describe the task in enough detail". For their LLM? No problem at all. 🤷
That's the one that really gets under my skin.

@mjg59

I’ve heard this argument before and I disagree with it. My goal for Free Software is to enable users, but that requires users have agency. Users being able to modify code to do what they want? Great! Users being given a black box that will modify their code in a way that might do what they want but will fail in unpredictable ways, without giving them any mechanism to build a mental model of those failure modes? Terrible!

I am not a carpenter but I have an electric screwdriver. It’s great. It lets me turn screws with much less effort than a manual one. There are a bunch of places where it doesn’t work, but that’s fine, I can understand those and use the harder-to-use tool in places where it won’t work. I can build a mental model of when not to use it and why it doesn’t work and how it will fail. I love building the software equivalent of this, things that let end users change code in ways I didn’t anticipate.

But LLM coding is not like this. It’s like a nail gun that has a 1% chance of firing backwards. 99% of the time, it’s much easier than using a hammer. 1% of the time you lose an eye. And you have no way of knowing which it will be. The same prompt, given to the same model, two days in a row, may give you a program that does what you want one time and a program that looks like it does what you want but silently corrupts your data the next time.

That’s not empowering users, that’s removing agency from users. Tools that empower users are ones that make it easy for users to build a (nicely abstracted, ignoring details that are irrelevant to them) mental model of how the system works and therefor the ability to change it in precise ways. Tools that remove agency from users take their ability to reason about how systems work and how to effect precise change.

I have zero interest in enabling tools that remove agency from users.

Software Heritage recrute :
• Ingénieur.e Back-end
• Ingénieur·e DevOps
• Responsable Applications Internes (Odoo/IT)
Détails des postes : https://www.softwareheritage.org/jobs/?lang=fr

#OpenSource #FOSS

Good morning!

The last episode of the #OpenBSD on m88k story has been released: http://miod.online.fr/software/openbsd/stories/m88k5.html

You can also read the whole story on a single page:
http://miod.online.fr/software/openbsd/stories/m88kall.html

Stay tuned for a new story next week!

A few notes about the massive hype surrounding Claude Mythos:

The old hype strategy of 'we made a thing and it's too dangerous to release' has been done since GPT-2. Anyone who still falls for it should not be trusted to have sensible opinions on any subject.

Even their public (cherry picked to look impressive) numbers for the cost per vulnerability are high. The problem with static analysis of any kind is that the false positive rates are high. Dynamic analysis can be sound but not complete, static analysis can be complete but not sound. That's the tradeoff. Coverity is free for open source projects and finds large numbers of things that might be bugs, including a lot that really are. Very few projects have the resources to triage all of these. If the money spent on Mythos had been invested in triaging the reports from existing tools, it would have done a lot more good for the ecosystem.

I recently received a 'comprehensive code audit' on one of my projects from an Anthropic user. Of the top ten bugs it reported, only one was important to fix (and should have been caught in code review, but was 15-year-old code from back when I was the only contributor and so there was no code review). Of the rest, a small number were technically bugs but were almost impossible to trigger (even deliberately). Half were false positives and two were not bugs and came with proposed 'fixes' that would have introduced performance regressions on performance-critical paths. But all of them looked plausible. And, unless you understood the environment in which the code runs and the things for which it's optimised very well, I can well imaging you'd just deploy those 'fixes' and wonder why performance was worse. Possibly Mythos is orders of magnitude better, but I doubt it.

This mirrors what we've seen with the public Mythos disclosures. One, for example, was complaining about a missing bounds check, yet every caller of the function did the bounds check and so introducing it just cost performance and didn't fix a bug. And, once again, remember that this is from the cherry-picked list that Anthropic chose to make their tool look good.

I don't doubt that LLMs can find some bugs other tools don't find, but that isn't new in the industry. Coverity, when it launched, found a lot of bugs nothing else found. When fuzzing became cheap and easy, it found a load of bugs. Valgrind and address sanitiser both caused spikes in bug discovery when they were released and deployed for the first time.

The one thing where Mythos is better than existing static analysers is that it can (if you burn enough money) generate test cases that trigger the bug. This is possible and cheaper with guided fuzzing but no one does it because burning 10% of the money that Mythos would cost is too expensive for most projects.

The source code for Claude Code was leaked a couple of weeks ago. It is staggeringly bad. I have never seen such low-quality code in production before. It contained things I'd have failed a first-year undergrad for writing. And, apparently, most of this is written with Claude Code itself.

But the most relevant part is that it contained three critical command-injection vulnerabilities.

These are the kind of things that static analysis should be catching. And, apparently at least one of the following is true:

• Mythos didn't catch them.
• Mythos doesn't work well enough for Anthropic to bother using it on their own code.
• Mythos did catch them but the false-positive rate is so high that no one was able to find the important bugs in the flood of useless ones.

TL;DR: If you're willing to spend half as much money Mythos costs to operate, you can probably do a lot better with existing tools.

Software Heritage is #hiring in France 🇫🇷
We're building the universal archive of software source code to preserve our technical "DNA" for the #publicinterest. 🌍💻
Join our international team:
• Backend Engineer
• DevOps Engineer
• Internal Apps Manager (Odoo/IT)
Help us ensure #OpenSource remains available for generations to come. 🏛️
➡️ Learn more & apply: https://www.softwareheritage.org/jobs