Aktualności, narzędzia i prawo AIPolska · codziennie
Narzędzia

Przejęte konto modelu Kokoro na Hugging Face. Co sprawdzić

Badacze przejęli konto wydawcy modelu Kokoro, pobieranego 13 mln razy miesięcznie, przez wygasłą domenę. Wyjaśniamy ryzyko i sposoby ochrony.

Kobieta z krótkimi siwymi włosami i brodaty mężczyzna w biurze z ceglaną ścianą analizują na laptopie i monitorze kod oraz wykres fali dźwiękowej, obok leżą słuchawki i mikrofon
Ilustracja redakcyjna dailyAI

Zespół badacza bezpieczeństwa Alona Hertza przejął konto, z którego na Hugging Face publikowany jest Kokoro-82M, otwarty model zamiany tekstu na mowę pobierany ok. 13 mln razy w miesiącu. Badacze zarejestrowali wygasłą domenę autora modelu i zresetowali przez nią hasło do konta. Zmodyfikowanych wag nie opublikowali, ale pokazali na własnym sprzęcie, że podmiana zajmuje 87 sekund i zmienia to, co model mówi. Nie wiadomo o żadnym ataku na użytkowników. Firmy, które automatycznie pobierają modele z Hugging Face, powinny jednak przypiąć konkretne wersje i sprawdzać sumy kontrolne plików.

Jak badacze przejęli konto modelu Kokoro

Kokoro-82M to mały model zamiany tekstu na mowę (TTS), który ma 82 mln parametrów i działa nawet na zwykłym komputerze. Według BleepingComputer obsługę modelu oferują narzędzia deweloperskie Google, NVIDII i Intela, a AMD i AWS opisały jego użycie w przepływach pracy agentów AI. Strona modelu na Hugging Face pokazuje ponad 13 mln pobrań w ostatnim miesiącu i ok. 7,5 tys. polubień.

Słabym punktem okazała się domena hexgrad.com, wpisana w pliku DONATE.md w repozytorium modelu. Autor, występujący jako Hexgrad, przestał ją utrzymywać, a od kwietnia 2025 roku nie aktualizował ani modelu, ani repozytorium na GitHubie, ani pakietu w PyPI. Badacze zarejestrowali domenę i przez adres e-mail w tej domenie przeprowadzili reset hasła do konta na Hugging Face. Szczegółów technicznych nie podajemy, bo podobna metoda może działać przy innych porzuconych kontach.

Co pokazał test z podmienionymi wagami

Badacze zmodyfikowali pliki wag modelu w 87 sekund na karcie graficznej do gier. Według Tech Times w jednym z przykładów model czytał przepis na omlet zamiast podanego mu przepisu na ciasto. Kod aplikacji pozostał bez zmian, zmieniły się wyłącznie pliki z wagami, czyli parametrami wyuczonymi podczas trenowania.

Zmienionego modelu nie umieścili na Hugging Face, bo mogłoby to zaszkodzić systemom produkcyjnym korzystającym z Kokoro. Sprawdzili go lokalnie, w standardowym procesie uruchamiania. Według Hertza testowe przesyłanie plików z innego konta nie wywołało na platformie żadnego ostrzeżenia. Tech Times zaznacza, że twierdzenie badaczy o tym, że przegląd kodu i skanery nie wykryją samej zmiany wag, nie zostało niezależnie zweryfikowane.

Dlaczego podmiana wag jest trudna do wykrycia

Zatruta wersja opublikowana z przejętego konta wyglądałaby jak zwykła aktualizacja. Miałaby tę samą nazwę wydawcy, ten sam format plików i podobny rozmiar. Hugging Face skanuje przesyłane pliki do 2 GB programem antywirusowym ClamAV, ale zmieniona wartość parametrów nie jest złośliwym kodem, więc nie ma sygnatury, którą taki skaner mógłby rozpoznać.

Ryzyko nie kończy się na samym repozytorium. Według Tech Times drzewo pochodnych wersji Kokoro w formacie ONNX liczy 125 wariantów skwantyzowanych, czyli odchudzonych do pracy na słabszym sprzęcie. Takie kopie trafiają do mirrorów, paczek, obrazów kontenerów i poradników wdrożeniowych. Hertz zwraca też uwagę, że groźne może być konto, które nigdy nie zostało przejęte, jeśli ktoś najpierw zbuduje zaufanie, a później opublikuje szkodliwą aktualizację.

Stanowisko Hugging Face i autora modelu

Hertz zgłosił problem Hugging Face, ale według BleepingComputer nie otrzymał odpowiedzi. Redakcja również poprosiła platformę o komentarz i do chwili publikacji go nie dostała. Do rana 19 listopada 2026 roku nie znaleźliśmy oświadczenia Hugging Face ani autora Kokoro. Strona modelu nie zawiera informacji o incydencie.

Według badacza podstawowym problemem jest brak weryfikacji, czy konto wydawcy nadal należy do pierwotnego właściciela. Podobny mechanizm był już znany z innych rejestrów. Tech Times przypomina, że w 2022 roku przejęcie pakietu ctx w PyPI przez wygasłą domenę skończyło się ok. 27 tys. pobrań złośliwych kopii, a w 2025 roku PyPI oznaczył jako niezweryfikowane ponad 1800 adresów e-mail w wygasłych domenach. Sprawa zbiega się z planowanym przejęciem Hugging Face przez NVIDIĘ, które ma się zamknąć w pierwszej połowie 2027 roku.

Jak chronić wdrożenia modeli z Hugging Face

Poniższe kroki łączą praktyki opisane przez Tech Times z ogólnymi zasadami bezpieczeństwa łańcucha dostaw oprogramowania. Nie są oficjalnymi zaleceniami Hugging Face. Dotyczą każdego modelu pobieranego z publicznego repozytorium, w tym Kokoro.

  1. Ładuj model z konkretnego commita (parametr revision), a nie z gałęzi main, która zmienia się przy każdej aktualizacji.
  2. Zapisz sumy SHA-256 zatwierdzonych plików wag i porównuj je przy każdym pobraniu.
  3. Trzymaj zatwierdzone wagi w wewnętrznym repozytorium lub mirrorze, a każdą aktualizację traktuj jak zmianę wymagającą przeglądu.
  4. Dodaj testy regresji wyników. Przy modelu mowy porównuj nagranie z tekstem wejściowym, na przykład przez automatyczną transkrypcję.
  5. Sprawdź, które aplikacje, kontenery i agenci AI pobierają modele automatycznie, także w wersjach przekonwertowanych i skwantyzowanych.
  6. Traktuj długo nieaktualizowane modele i dane kontaktowe w wygasłych domenach jako sygnał ryzyka.
  7. Jeśli publikujesz własne modele, odnawiaj domeny powiązane z kontem, dodaj zapasowy adres e-mail u dużego dostawcy i włącz logowanie dwuskładnikowe.

Co to oznacza dla polskich firm

Sam Kokoro nie mówi po polsku, więc rzadziej trafia do polskich produktów konsumenckich. Polskie zespoły używają go jednak w prototypach, aplikacjach anglojęzycznych i agentach głosowych, a ten sam mechanizm dotyczy każdego otwartego modelu, także polskich modeli językowych i modeli mowy publikowanych na Hugging Face. Firmy objęte dyrektywą NIS2 powinny uwzględnić modele AI w ocenie ryzyka dostawców, tak samo jak biblioteki programistyczne.

W naszej ocenie incydent jest ważniejszy jako ostrzeżenie niż jako zdarzenie. Nikt nie ucierpiał, ale pokazano tani i szybki sposób na podmianę modelu, którego nie wykryją typowe narzędzia do skanowania kodu. To kolejny w ostatnich dniach sygnał, że łańcuch dostaw narzędzi AI staje się celem. Wcześniej przejęto pakiet Microsoftu w PyPI, a napastnicy atakowali rozszerzenia dla programistów.

Czego jeszcze nie wiadomo

Relacje BleepingComputer i Tech Times opierają się na opisie samych badaczy. Wpis Hertza na Medium był w dniu sprawdzenia niedostępny z naszej sieci, dlatego część szczegółów podajemy za tymi redakcjami.

  • Czy konto wydawcy Kokoro zostało już zabezpieczone i komu jest teraz przypisane.
  • Czy Hugging Face planuje weryfikację właścicieli kont po wygaśnięciu domen w adresach e-mail.
  • Ile innych popularnych modeli ma konta powiązane z wygasłymi domenami.
  • Czy ktokolwiek wcześniej wykorzystał podobną metodę do publikacji zmienionych wag.

Źródła i data sprawdzenia

  1. Researchers hijack Hugging Face account for popular Kokoro AI modelBleepingComputer, publikacja: 2026-11-17, sprawdzono: 2026-11-19
  2. Domain Lapse Let Researchers Hijack Kokoro Voice AI Hugging Face Account, Edit Weights in 87 SecondsTech Times, publikacja: 2026-11-18, sprawdzono: 2026-11-19
  3. hexgrad/Kokoro-82MHugging Face, publikacja: 2025-04-01, sprawdzono: 2026-11-19
  4. Kokoro-82M VOICES.mdHugging Face, publikacja: 2025-04-01, sprawdzono: 2026-11-19
Nota redakcyjna

Artykuł ma charakter informacyjny. Przy decyzjach prawnych, finansowych lub organizacyjnych warto zweryfikować wnioski w odniesieniu do konkretnej sytuacji.