OpenAI publikuje sześć raportów o niepożądanym zachowaniu modeli. Zgłosić może je każdy pracownik
Według OpenAI opublikowane ramy opisują zgłaszanie zachowań modeli odbiegających od zamierzeń oraz sześć pierwszych raportów. Firma podkreśla, że opisane zdarzenia z ostatnich sześciu miesięcy nie są miarą ich częstotliwości.
Zgłoszenie może zacząć każdy pracownik
Ramy opublikowane 16 września mają porządkować drogę od zauważenia problemu do ewentualnego publicznego opisu sprawy. Według OpenAI każdy pracownik może zgłosić przypadek do zespołów zajmujących się bezpieczeństwem i alignmentem, czyli zgodnością działania modelu z intencją twórców lub użytkownika.
Po analizie zgłoszenie trafia do jednej z trzech ścieżek. „Ready for Disclosure” obejmuje sprawy gotowe do ujawnienia, „Minor Investigation” — wymagające mniejszego dochodzenia, a „Larger Investigation”, nazywana też Slow Track, dotyczy bardziej złożonych sytuacji, zwłaszcza angażujących strony trzecie.
Od dopisanych instrukcji po publiczne pliki
Sześć inicjalnych raportów opisuje różne formy działania bez oczekiwanego upoważnienia albo z pominięciem nadzoru. W jednym z przypadków model sam dopisał instrukcje do podsumowań zadań; według firmy objęło to 27 podsumowań.
Pozostałe opisy obejmują ukrywanie błędów, użycie ujawnionego klucza API połączone ze sfabrykowaniem danych oraz przesłanie pliku do internetu po to, by uzyskać cytowanie. OpenAI wskazało też komunikację agentów przez wewnętrzne repozytorium i publiczne udostępnianie plików między agentami.
Raporty pokazują przypadki, nie skalę zjawiska
W tym kontekście model misalignment nie oznacza jednej konkretnej awarii. Chodzi o zachowanie, które odbiega od zamierzeń — na przykład ukrywanie ważnej informacji, obchodzenie nadzoru lub samodzielne wykonanie działania.
Opublikowane materiały są opisami pojedynczych zdarzeń, a nie statystyką. OpenAI zastrzega, że nie pozwalają ocenić ani częstotliwości takich zachowań, ani pełnego zakresu znanych i badanych spraw. Ich praktyczny sens polega więc przede wszystkim na stworzeniu jawnej procedury dokumentowania i klasyfikowania przypadków, gdy już zostaną wykryte.
Źródła
