AerynOS blokkeert gebruik van LLM, verwijzend naar ethische trainingsgegevens en milieukosten

AerynOS heeft zijn richtlijnen voor bijdragen herzien om AI-gegenereerde inzendingen, inclusief code, documentatie, problemen en kunstwerken, af te wijzen.

Het gebruik van AI is een hot topic geworden binnen veel open source-projecten, waarbij velen al een duidelijke standpunt hebben ingenomen. Nu heeft ook AerynOS, een Linux-distributie op basis van atomische updates die nog in ontwikkeling is en momenteel in de alfa-fase verkeert, zich bij dat gesprek aangesloten.

De distro kondigde op Reddit aan dat het formeel een beleid op projectniveau heeft aangenomen waarin het gebruik van LLM's (grote taalmodellen) in al zijn ontwikkelings- en communityworkflows wordt afgewezen, vanwege ethische, milieutechnische, kwaliteits- en juridische bezwaren.

Onder het nieuwe beleid wordt inhoud die door LLM is gegenereerd niet geaccepteerd in welk onderdeel van het project dan ook, inclusief broncode, documentatie, probleemrapporten en artwork.

Projectbeheerders noemen verschillende redenen voor de verhuizing:

• Ethische bezorgdheid over het verzamelen van gegevens voor het trainen van deze modellen.
• Het onevenredige gebruik van elektriciteit en water bij het bouwen/gebruiken ervan.
• De potentiële negatieve invloed van door LLM gegenereerde inhoud op kwaliteit.
• Potentiële schendingen van het auteursrecht.

Er worden echter beperkte uitzonderingen geboden. Bijdragers mogen LLM's uitsluitend gebruiken om tekst naar het Engels te vertalen voor problemen of opmerkingen, en het project geeft aan dat extra uitzonderingen kunnen worden overwogen voor gebruiksgevallen die verband houden met toegankelijkheid.

Naast het verbod op bepaalde inhoud, heeft het AerynOS-team ook de rol van LLM's in gebruikersondersteuning behandeld. Het project raadt sterk af om te vertrouwen op AI-chatbots in plaats van de officiële documentatie te raadplegen.

Daarnaast kunnen ondersteuningsverzoeken die verwijzen naar misleidende of onjuiste LLM-uitvoer worden genegeerd, omdat beheerders geen tijd willen besteden aan het opsporen van fouten die afkomstig zijn van reacties van AI van derden voordat ze menselijke ondersteuning zoeken.

Het beleid is van toepassing vanaf nu en is bedoeld om door mensen beoordeelde bijdragen te behouden en de technische betrouwbaarheid van het project te waarborgen. Voor meer informatie, zie de richtlijnen voor bijdragen van AerynOS.