#ChatGPT

OpenAI i Anthropic analizują dziesiątki tysięcy niepożądanych działań zaawansowanych modeli. Do wspólnej kategorii incydentów zaliczono jednak bardzo różne zachowania: od użycia znalezionych haseł po pobieranie w pełni jawnych danych. Artykuł Dziesią...

Największe firmy zajmujące się sztuczną inteligencją prowadzą zakrojone na szeroką skalę analizy odnośnie tysięcy incydentów bezpieczeństwa, które zostały wykryte podczas testów oraz w rzeczywistych środowiskach. Modele AI miały m.in. omijać zabezpie...

OpenAI opublikowało przypadki, w których modele firmy bez pozwolenia wykorzystywały klucze API, publikowały pliki w internecie, wymyślały dane lub próbowały ukrywać własne błędy. Firma wprowadziła nowy system monitorowania i publicznego ujawniania sy...

Firma OpenAI potwierdziła, że jej autonomiczne boty ingerowały w witryny i systemy dziesiątek instytucji, w tym agencji rządowych w USA i Australii. Jak podaje BBC, część narzędzi próbowała także obchodzić zabezpieczenia stron. Spółka utrzymuje, że n...

Agenci OpenAI przez miesiące mieli podejmować próby obchodzenia zabezpieczeń serwisów internetowych, gdy nie mogli znaleźć potrzebnych im informacji. Badacze Transluce znaleźli ślady takich działań m.in. w bibliotece Uniwersytetu Nowego Meksyku,… Art...

OpenAI poinformowało, że narzędzia wykorzystujące sztuczną inteligencję bez wiedzy firmy przesłały 53 obrazy z kont użytkowników na zewnętrzne serwisy. Większość plików usunięto, a spółka analizuje także inne działania swoich agentów AI. O sprawie po...

W ukrytym selektorze Responses API pojawiły się opcje Standard, Fast i Ultrafast. Choć wskazuje to na przygotowania do szerszego udostępnienia trybu, OpenAI nie podało jeszcze oficjalnego terminu. Artykuł Ślady w Playgroundzie i dokumentacji OpenAI....

Coraz częstsze problemy z posłuszeństwem modeli AI, także tych dostępnych w aplikacji ChatGPT, wskazują na jedno. Uważajmy, jakie zdjęcia i grafiki, a także teksty wrzucamy do aplikacji pozwalających konwersować z superinteligencją. Kolejny wyciek ud...

Trening, ewaluacja oraz wnioskowanie z użyciem narzędzi przez najbardziej zaawansowane modele OpenAI pozostają wstrzymane. Dochodzenie ujawniło ominięcie zabezpieczeń sieciowych przez DNS, próbę ukrycia tokenu GitHuba przed skanerem oraz nieautoryzow...

GPT-6 Astra stanął obok czterech testowanych na torze parkingowym modeli i... jako jedyny go ukończył, kierując prawdziwym autem. Nikt nie zginął, auto nie wyrwało się z toru i nie ruszyło na ulice. Ale są pewne niuanse, na które trzeba zwrócić uwagę...

Agent OpenAI, który miał znaleźć publiczne informacje o wydatkach na leki w Australii, po napotkaniu blokad samodzielnie poszukał sposobu na ich obejście. W efekcie uzyskał nieautoryzowany dostęp do publicznych i niepublicznych plików australijskiego...

W nieopublikowanych jeszcze materiałach subskrypcyjnych pojawiła się wzmianka o nowym pakiecie ChatGPT Pro Max. OpenAI nie potwierdziło istnienia oferty ani jej ceny. Artykuł Nieoficjalne informacje o planie ChatGPT Pro Max za 500 dolarów miesięcznie...

Analiza techniczna opublikowana przez Buchodi’s Threat Intel opisuje przepływ danych między stronami zewnętrznymi a serwerami OpenAI. Kluczową rolę odgrywa plik cookie z parametrem SameSite=None. Artykuł Piksel reklamowy OpenAI przesyła dane ze stron...

Agent stworzony przez OpenAI otrzymał pozornie niewinne zadanie: zebrać dane o wydatkach Australii na leki. Gdy napotkał blokady, znalazł sposób, żeby je ominąć. Uzyskał dostęp do niepublicznych plików rządowego portalu, a firma wykryła incydent dopi...

Szefowie OpenAI i Anthropic apelowali do ONZ o stworzenie regulacji dotyczących rozwoju sztucznej inteligencji.

Australia skrytykowała firmę OpenAI za to, że „zbyt długo” zwlekała z poinformowaniem władz o naruszeniu bezpieczeństwa, do którego doszło w czerwcu.

Agent sztucznej inteligencji OpenAI uzyskał w czerwcu nieautoryzowany dostęp do portalu Services Australia z danymi statystycznymi dotyczącymi Medicare. Nie ma dowodów na dostęp do danych osobowych pacjentów. Australijski rząd zarzuca jednak OpenAI,...

Główni gracze na rynku sztucznej inteligencji głośno dyskutują o potrzebie spowolnienia rozwoju algorytmów ze względów bezpieczeństwa. W praktyce jednak nikt nie zdejmuje nogi z gazu. OpenAI i Anthropic niemal w tym samym czasie zaprezentowały nowe m...

Bankowość może być jednym z sektorów najmocniej zmienionych przez sztuczną inteligencję. AI przestaje być tylko chatbotem odpowiadającym na proste pytania i zaczyna pracować na rzeczywistych danych finansowych klienta. Dzięki temu użytkownik nie musi...

Co robić z tym rozwojem AI? Spowolnić, przyśpieszyć, całkowicie zatrzymać? Jak widać, Anthropic i OpenAI sami nie wiedzą, w którym kierunku chcą iść. A może wiedzą, tylko mydlą nam oczy? Kto obserwuje rynek rozwoju sztucznej inteligencji ten wie, że...