W Debianie zapadną istotne decyzje dotyczące przyszłości sztucznej inteligencji: możliwe jest albo całkowite zbanowanie bezpośredniego wkładu dużych modeli językowych (LLM) w jego rozwój, albo ich dopuszczenie z warunkiem odpowiedzialności ze strony autorów – „nadzorców”. Głosowanie nad tym zagadnieniem trwa, a na stole znajduje się osiem różnych propozycji, które będą oceniane do jutra.
Debian, zgodnie z wcześniejszymi zapowiedziami, analizuje przyszłość wykorzystania LLM w swoim rozwoju: na stole znalazły się osiem propozycji, oznaczonych literami od A do H. Zmiany te dotyczą nie tylko kodu źródłowego, lecz także sposobu pracy nad pakietami, dokumentacji, tłumaczeń, stron projektu, obsługi błędów oraz komunikacji. Jaki będzie wynik wewnętrznego głosowania? Na ten moment żadna opcja nie wydaje się bardziej prawdopodobna od reszty.
Silna opozycja przeciwko LLM
Propozycja A zakłada całkowity zakaz wkładów stworzonych przy użyciu lub z pomocą LLM oraz innych narzędzi wspierających je. Ta zasada objęłaby wszystkie pakiety źródłowe, oprogramowanie Debiana, zasoby online, dokumentację, tłumaczenia oraz komunikację w ramach projektu. Propozycja nie dotyczy projektów upstreamowych, które są rozwijane poza Debianem, ani poprawek i aktualizacji bezpieczeństwa z nich pochądzących. Autorzy tej propozycji zwracają uwagę na kwestie związane z prawnym statusem treści generowanych przez LLM, ryzyko amplifikacji błędów, dodatkowe obciążenie dla recenzentów oraz wątpliwości natury etycznej. Obawy skupiają się na tym, że początkowo będzie łatwo generować rozwiązania, ale ich późniejsze poprawianie stanie się żmudne, czego przeciwnicy wkładów LLM pragną uniknąć.
Propozycja G również zabrania umieszczania wygenerowanych treści w bezpośrednich wkładach, ale dopuszcza użycie sztucznej inteligencji w celach badawczych, analizy lub oceny własnej pracy. Propozycja C zaostrza stanowisko Debiana w zakresie komunikacji, wymagając, by wiadomości dla społeczności były tworzone bez wsparcia modeli językowych, nakłada obowiązek ujawnienia każdego użycia takich narzędzi, a także umożliwia opiekunom poszczególnych części projektu wprowadzenie własnych zakazów w tym zakresie.
Propozycja H ma formę deklaracji, skupiającej się na aspektach środowiskowych, podkreślając negatywny wpływ modeli LLM na klimat. Autorzy tych projektów wskazują, że wykrycie stosowania LLM może być niezwykle trudne, a w wielu przypadkach nawet niemożliwe, a Debian nie może narzucić zasad projektom upstreamowym.
Warunkowa zgoda z pełną odpowiedzialnością
Propozycja B zezwala na wkłady generowane całkowicie lub częściowo przez AI, ale wprowadza istotne obowiązki dla zgłaszających. Zgłaszający zmianę odpowiada za jakość, bezpieczeństwo, zgodność z licencjami i użyteczność całości: musi również rozumieć zmianę oraz być w stanie ją obronić. Znaczny udział AI powinien być odpowiednio oznaczony, na przykład dopiskiem Generated-By lub Assisted-By w metadanych związanych z commitem. Masowe i autonomiczne zmiany wymagałyby wcześniejszej dyskusji oraz nadzoru ludzi.
Wariant D podąża podobnym tokiem myślenia, ograniczając zasady do prac wykonywanych bezpośrednio dla Debiana i przewidując oznaczanie użycia AI w procesie. Propozycja E z kolei wydaje się najbardziej liberalna: chce, aby wszystkie wkłady podlegały tym samym normom jakości i zgodności. Ujawnienie pomocy AI byłoby w niej mocno zalecane, ale nieobowiązkowe. Wariant F zachęca do unikania wykorzystania generatywnej AI, gdy to możliwe, ale nadal pozostawia to pod rozwagę twórców. Wydaje się, że Debian ustanawia swoją politykę dotyczącą AI na nadchodzące lata, a przyszłość może wymagać dalszych doprecyzowań lub zmian.
Debian musi określić granice autorstwa
Zwolennicy zakazu argumentują, że LLM generują kod w oparciu o statystyczne prawdopodobieństwo, nie potrafiąc potwierdzić ich poprawności, co według niektórych nie jest do końca prawdziwe. W Debianie mogłoby to prowadzić do problemów związanych z mieszaniem aktualnych zasad z przestarzałymi praktykami, zachowanymi w materiałach treningowych używanych przez narzędzia generatywne.
Wskazuje się także na problem braku „symetrii”: jedna osoba szybko produkuje zmianę, podczas gdy recenzent poświęca czas na jej weryfikację, nie zawsze mając pełne pojęcie o jej powstaniu. Bardziej liberalne propozycje nie negują potrzeby nadzoru, ale uznają, że człowiek może korzystać z AI, o ile rozumie uzyskany rezultat, przeprowadza własne testy i bierze za niego pełną odpowiedzialność. Tak naprawdę wszystkie propozycje koncentrują się na tym samym: unikaniu bezmyślnego generowania kodu. I to rzeczywiście jest problem, z którym należy walczyć; incydent w Apple, gdzie z powodu dużej liczby zgłoszeń w programie bug bounty o mało nie przegapiono ogromnej luki, wskazuje, jak wiele zmieniło się w trakcie rozwoju LLM.
Aby propozycja A przeszła, wymagana jest większość 3:1, ponieważ należałoby dokonać zmian w „Umowie Społecznej”, legendarnym dokumencie Debiana, który stanowi zobowiązanie wobec społeczności i użytkowników. Pozostałym propozycjom wystarczy zwykła większość. Głosowanie trwa od 15 sierpnia i zakończy się jutro, do końca dnia.
Czytaj również: Linux dla ucznia? W teorii brzmi świetnie, w praktyce bywa różnie
Do tego czasu Debian wciąż akceptuje kod stworzony przez AI na tych samych zasadach, co kod pisany ręcznie. To inna postawa niż w przypadku Ubuntu, gdzie widać jednoznaczne otwarcie Canonicala na adopcję funkcji AI w oprogramowaniu, jak i uczestników społeczności skupionej wokół tego popularnego dystrybucji. Wygląda na to, że te dwa projekty mogą podążyć odmiennymi ścieżkami. Debian jednak zawsze był bardziej „sformalizowany”, podczas gdy Ubuntu od lat cieszy się czymś, co można by określić jako „brak nadmiernej biurokracji”. Jednak to właśnie ta „biurokracja” w Debianie gwarantuje jego ponadczasowość oraz odporność na różnorodne wstrząsy.