CybrKitten

Bardzo gruba sprawa, oj bardzo gruba - już opowiadam o co chodzi: Na pierwszy rzut oka brzmi bardzo fajnie, bo rozwiązanie problemu milenijnego. Tymczasem w tle pojawiają się podejrzenia wykorzystania cudzych badań i relacja o naciskach na matematyka. Jeżeli zarzuty się potwierdzą, konsekwencje dla zaufania do firm zajmujących się AI nie będą już szorowały po dnie, a będą w nie wwiercać. Co się właściwie wydarzyło? OpenAI twierdzi, że jego wewnętrzny system rozwiązał jeden z problemów milenijnych, dotyczący równań Naviera–Stokesa. To równania opisujące ruch płynów. W wielkim uproszczeniu chodzi o wykazanie, czy ich rozwiązania mogą w określonych warunkach się "załamać". Sam komunikat nie oznacza jeszcze ostatecznego uznania wyniku przez środowisko naukowe. I teraz uwaga - sedno całego problemu: Nad pokrewnymi zagadnieniami pracowali Tristan Buckmaster z NYU i Levent Alpöge, zatrudniony w Anthropic. Była to ich prywatna współpraca. Korzystali zarówno z Claude’a, jak i Codexa, do którego, według Buckmastera - wprowadzali wszystkie szkice projektu. Badacze uzyskali wyniki dotyczące m. in. równań Eulera. To istotne osiągnięcie, ale nie rozwiązanie tego samego problemu, którym pochwaliło się OpenAI. Chronologia jest tu kluczowa. 15 sierpnia Buckmaster i Alpöge uzyskuja wyniki dotyczące równań Eulera. Później wieści o nim docierają do OpenAI, która 1 września rzuca do pracy swój nowy model - podobno z udziałem ok. 10 tys. agentów i kosztem liczonym w milionach dolarów. W weekend poprzedzający ogłoszenie zespół Bubecka kończy dowód dla pełnych równań Naviera-Stokesa, w niedzielę odbywa się sporna rozmowa telefoniczna, a w poniedziałek Buckmaster publikuje swój wynik wraz z oświadczeniem. We wtorek OpenAI ogłasza swój dowód publicznie. Firma przyznaje, że rozpoczęła własne prace po usłyszeniu pogłosek o przełomie. Buckmaster zwrócił też uwagę na podobny kierunek badań. Zapytał więc, czy wewnętrzny model miał dostęp do ich sesji w Codexie albo był na nich trenowany. Jak relacjonuje, dostał zapewnienie, że model nie przeszukiwał danych użytkowników. Na ponowne pytanie o trening odpowiedzi nie otrzymał. Dalej opisuje dwie propozycje. Pierwsza: naukowcy publikują swój wynik dotyczący Eulera, a OpenAI następnego dnia przedstawia własny. Druga: po publikacji pracy duetu Buckmaster sam opracowuje artykuł przedstawiający dowód OpenAI, zaznaczając, że rozwiązanie znalazł model firmy. A co z jego kolegą? Kolega ma zostać wymazany, bo pracuje u konkurencji - Anthropic. Buckmaster odrzucił obie propozycje. Kiedy zapowiedział ujawnienie sprawy, Sébastien Bubeck z OpenAI miał zapytać: "Dlaczego miałbyś zrujnować swoją karierę?". Następnie miały paść słowa: "Jeśli nie chcesz, żebym był miły, to nie muszę być miły". Jeżeli rozmowa przebiegła tak, jak opisuje ją matematyk, trudno nie odczytać tego jako próby zastraszenia. Bubeck przedstawia jednak inną wersję. Podkreśla, że nie chciał usunięcia Alpögego z jego własnej pracy. Rozmowa miała dotyczyć autorstwa nowego opracowania dowodu OpenAI. Przyznaje, że udział pracownika Anthropic uważał w tym kontekście za niewłaściwy. Bubeck przyznał również, że mówił o ryzykowaniu kariery, i przeprosił za dobór słów. Twierdzi, że chodziło mu o konsekwencje rzucania bezpodstawnych oskarżeń, a nie groźbę. Według niego wycofał te słowa jeszcze podczas rozmowy. A co z wykorzystaniem badań? OpenAI zaprzecza, żeby jego badacze lub agenci mieli dostęp do nieopublikowanej pracy naukowców. Wskazuje też na różnice między dowodami. Zastrzega jednak, że choć uważa to za mało prawdopodobne, nie może wykluczyć, iż zanonimizowane materiały powstałe w trakcie korzystania przez nich z produktów OpenAI pomogły ulepszyć modele. Hmm, no jak na moje nie brzmi to jak oświadczenie firmy, która chciałaby udowodnić swoją niewinność za wszelką cenę. To jest właśnie cały urok tych naszych ukochanych modeli językowych - większość opiera się na rachunku prawdopodobieństwa, statystyce, nie jesteśmy w stanie sami dowiedzieć się, skąd biorą takie, a nie inne wyniki. Ba, nawet sami twórcy nie wiedzą. Takich akcji może być więcej i obawiam się, że bardzo łatwo jest się zasłaniać tekstami "możę było, a może nie". Owszem, nie zostało udowodnione, że ich nieopublikowane badania wpłynęły na wynik OpenAI. Sam Buckmaster wyraźnie to zaznacza. Podobieństwo podejścia nie wystarcza, żeby ogłosić kradzież. Zaprzeczenie przeszukiwaniu rozmów nie rozstrzyga natomiast pytania o wykorzystanie ich podczas treningu. I właśnie dlatego ta historia wykracza poza akademicki spór o pierwszeństwo dokonanego odkrycia. Dostawca AI może pomagać naukowcowi w badaniach, a jednocześnie sam ścigać się o odkrycie w tej samej dziedzinie. Usunięcie nazwiska z danych nie usuwa przecież wartości pomysłu, który ktoś powierzył narzędziu. Moim zdaniem taka niepewność może skutecznie zniechęcać do powierzania AI nieopublikowanych badań, nowego kodu czy pomysłów biznesowych. I bardzo dobrze. Im więcej bigtechy będą musiały wykazywać, że oddzielają dane użytkowników od własnych prac, tym lepiej. Samo "zaufajcie nam" nie wystarcza. Przejrzystość, przejrzystość i jeszcze raz przejrzystość. Ludzie, szanujmy się. Mamy prawo wiedzieć, co ryzykujemy, korzystając z danego produktu.