#ChatGPT

OpenAI wstrzymało premierę modelu GPT-6.1 Astra, uznając, że jego zabezpieczenia nie spełniają jeszcze wymagań firmy. Decyzja zapadła po wcześniejszych incydentach z agentami AI, które uzyskiwały nieautoryzowany dostęp do zewnętrznych systemów.

SoftBank postawił na sztuczną inteligencję ogromne pieniądze, a znaczną część inwestycji w OpenAI finansuje długiem. Przy wysokiej wycenie OpenAI, rosnących kosztach finansowania i coraz większej presji na rentowność sektora AI taki zakład może oznac...

Przez ponad dwa miesiące autonomiczni agenci sprawdzali publiczne API statystyczne UNCTADstat. Aby obejść techniczne ograniczenia, wykorzystali skaner stron i edukacyjną grę Google. Artykuł Agenci powiązani z OpenAI użyli gry Google jako pośrednika d...

Model AI znalazł sposób na obejście zabezpieczeń i uzyskał dostęp do internetu, choć nie powinien tego zrobić. OpenAI wykryło incydent, zatrzymało trening i wstrzymało prace z użyciem narzędzi w swoich najbardziej zaawansowanych modelach.

OpenAI i Anthropic analizują dziesiątki tysięcy niepożądanych działań zaawansowanych modeli. Do wspólnej kategorii incydentów zaliczono jednak bardzo różne zachowania: od użycia znalezionych haseł po pobieranie w pełni jawnych danych. Artykuł Dziesią...

Największe firmy zajmujące się sztuczną inteligencją prowadzą zakrojone na szeroką skalę analizy odnośnie tysięcy incydentów bezpieczeństwa, które zostały wykryte podczas testów oraz w rzeczywistych środowiskach. Modele AI miały m.in. omijać zabezpie...

OpenAI opublikowało przypadki, w których modele firmy bez pozwolenia wykorzystywały klucze API, publikowały pliki w internecie, wymyślały dane lub próbowały ukrywać własne błędy. Firma wprowadziła nowy system monitorowania i publicznego ujawniania sy...

Firma OpenAI potwierdziła, że jej autonomiczne boty ingerowały w witryny i systemy dziesiątek instytucji, w tym agencji rządowych w USA i Australii. Jak podaje BBC, część narzędzi próbowała także obchodzić zabezpieczenia stron. Spółka utrzymuje, że n...

Agenci OpenAI przez miesiące mieli podejmować próby obchodzenia zabezpieczeń serwisów internetowych, gdy nie mogli znaleźć potrzebnych im informacji. Badacze Transluce znaleźli ślady takich działań m.in. w bibliotece Uniwersytetu Nowego Meksyku,… Art...

OpenAI poinformowało, że narzędzia wykorzystujące sztuczną inteligencję bez wiedzy firmy przesłały 53 obrazy z kont użytkowników na zewnętrzne serwisy. Większość plików usunięto, a spółka analizuje także inne działania swoich agentów AI. O sprawie po...

W ukrytym selektorze Responses API pojawiły się opcje Standard, Fast i Ultrafast. Choć wskazuje to na przygotowania do szerszego udostępnienia trybu, OpenAI nie podało jeszcze oficjalnego terminu. Artykuł Ślady w Playgroundzie i dokumentacji OpenAI....

Coraz częstsze problemy z posłuszeństwem modeli AI, także tych dostępnych w aplikacji ChatGPT, wskazują na jedno. Uważajmy, jakie zdjęcia i grafiki, a także teksty wrzucamy do aplikacji pozwalających konwersować z superinteligencją. Kolejny wyciek ud...

Trening, ewaluacja oraz wnioskowanie z użyciem narzędzi przez najbardziej zaawansowane modele OpenAI pozostają wstrzymane. Dochodzenie ujawniło ominięcie zabezpieczeń sieciowych przez DNS, próbę ukrycia tokenu GitHuba przed skanerem oraz nieautoryzow...

GPT-6 Astra stanął obok czterech testowanych na torze parkingowym modeli i... jako jedyny go ukończył, kierując prawdziwym autem. Nikt nie zginął, auto nie wyrwało się z toru i nie ruszyło na ulice. Ale są pewne niuanse, na które trzeba zwrócić uwagę...

Agent OpenAI, który miał znaleźć publiczne informacje o wydatkach na leki w Australii, po napotkaniu blokad samodzielnie poszukał sposobu na ich obejście. W efekcie uzyskał nieautoryzowany dostęp do publicznych i niepublicznych plików australijskiego...

W nieopublikowanych jeszcze materiałach subskrypcyjnych pojawiła się wzmianka o nowym pakiecie ChatGPT Pro Max. OpenAI nie potwierdziło istnienia oferty ani jej ceny. Artykuł Nieoficjalne informacje o planie ChatGPT Pro Max za 500 dolarów miesięcznie...

Analiza techniczna opublikowana przez Buchodi’s Threat Intel opisuje przepływ danych między stronami zewnętrznymi a serwerami OpenAI. Kluczową rolę odgrywa plik cookie z parametrem SameSite=None. Artykuł Piksel reklamowy OpenAI przesyła dane ze stron...

Agent stworzony przez OpenAI otrzymał pozornie niewinne zadanie: zebrać dane o wydatkach Australii na leki. Gdy napotkał blokady, znalazł sposób, żeby je ominąć. Uzyskał dostęp do niepublicznych plików rządowego portalu, a firma wykryła incydent dopi...

Szefowie OpenAI i Anthropic apelowali do ONZ o stworzenie regulacji dotyczących rozwoju sztucznej inteligencji.

Australia skrytykowała firmę OpenAI za to, że „zbyt długo” zwlekała z poinformowaniem władz o naruszeniu bezpieczeństwa, do którego doszło w czerwcu.