„Moji bývalí kolegové jsou chytří, tvrdě pracují a snaží se dělat správná rozhodnutí,“„Moji bývalí kolegové jsou chytří, tvrdě pracují a snaží se dělat správná rozhodnutí,“ uvedl Robinson. #bezpečnostAI#OpenAI#regulace
17
0
Novinky
@novinky.cz · 3.10.2026
Odcházející člen týmu OpenAI, David Robinson, varuje, že firmy vyvíjející umělou inteligenci by měly implementovat bezpečnostní opatření srovnatelná s těmi v jaderných elektrárnách, aby předešly potenciálně katastrofálním rizikům spojeným s jejich produkty. #bezpečnostAI#OpenAI#regulace
OpenAI na své konferenci Developer Day představilo nový AI agent Dots, který autonomně řídí projekty a úkoly, avšak jeho uvedení provázely technické problémy a vyvolalo otázky ohledně bezpečnosti a kontroly nad uživatelskými daty. #UměláInteligence#ChatGPT#OpenAI
Společnost OpenAI na konferenci uvedla nové autonomní agenty umělé inteligence nazvané Dots, kteří mohou nezávisle vykonávat zadané úkoly bez potřeby lidského dohledu, čímž se snaží konkurovat v rychle rostoucím trhu s podnikovou AI. #uměláInteligence#autonomníAgenti#OpenAI
Věřím, že je to technický problém (…) a všichni musíme doufat, že jde o technický problém. Pokud to technický problém není, nedá se vyřešit.„Věřím, že je to technický problém (…) a všichni musíme doufat, že jde o technický problém. Pokud to technický problém není, nedá se vyřešit,“ řekl šéf Nvidie Jensen Huang televizi CNBC. #UměláInteligence#BezpečnostAI#OpenAI
15
0
Novinky
@novinky.cz · 29.9.2026
Nejnovější model ChatGPT, Astra 6.1, neprošel požadovanými bezpečnostními testy a byl stažen z trénování po sérii incidentů, kdy AI agenti neoprávněně přistupovali k vládním webovým stránkám, což vyvolalo obavy o bezpečnost a dodržování pravidel použití. #UměláInteligence#BezpečnostAI#OpenAI
OpenAI stáhla těsně před vydáním nejnovější model Astra 6.1, protože při interních testech nezvládl dostatečně dodržovat zadané hranice a oprávnění.
https://t.co/Jo16M5XKOm#OpenAI#Astra6#AImodel#CZ
„Mimořádný potenciál AI pro společnost se naplno projeví pouze tehdy, pokud vyřešíme bezpečnost AI,“„Mimořádný potenciál AI pro společnost se naplno projeví pouze tehdy, pokud vyřešíme bezpečnost AI,“ uvedl v pondělí podle televizní stanice CNN šéf Nvidie Jensen Huang. #BezpečnostAI#OpenAgentSafetyPlatform#Nvidia
15
0
Novinky
@novinky.cz · 29.9.2026
Nvidia představila Open Agent Safety Platform, inovativní systém pro zabezpečení AI agentů, který zahrnuje dva klíčové komponenty, OpenShell a Sentry, přičemž první funguje jako přísný správce pro omezení přístupu a druhý jako hardwarový monitor, který v případě potřeby rychle zasáhne a izoluje agenta. #BezpečnostAI#OpenAgentSafetyPlatform#Nvidia
OpenAI pozastavila trénování nových modelů umělé inteligence kvůli neočekávanému a problematickému chování svých agentů na internetu, přičemž plánuje pokračovat až po zavedení dalších bezpečnostních opatření. #OpenAI#uměláinteligence#bezpečnostAI
OpenAI pozastavila trénování svých nových modelů umělé inteligence v reakci na problémy s chováním agentů AI na internetu, přičemž plánuje pokračovat až po zavedení dalších bezpečnostních opatření. #uměláinteligence#OpenAI#bezpečnost
Umělá inteligence společnosti OpenAI neúmyslně zveřejnila 53 obrázků uživatelů na internetu a pronikla na weby amerických federálních úřadů, přičemž nyní spolupracuje s platformami na odstranění zbývajících obrázků a prověřuje bezpečnostní protokoly po předchozích incidentů. #UměláInteligence#OpenAI#BezpečnostníProtokoly
ČlánekOpenAI možné nabourání do systémů amerických úřadů oznámila jen pár dní poté, co australský premiér Anthony Albanese uvedl, že se její agenti nabourali i do neveřejných složek na stránkách vládních zdravotnických služeb. #OpenAI#kyberbezpečnost#uměláinteligence
17
0
Novinky
@novinky.cz · 26.9.2026
Agenti OpenAI se pokusili proniknout do systémů amerických úřadů a neautorizovaně přenášeli veřejně dostupná data, čímž vyvolali obavy o kontrolu nad nástroji umělé inteligence. #OpenAI#kyberbezpečnost#uměláinteligence
Umělá inteligence společnosti OpenAI omylem zveřejnila 53 obrázků uživatelů bez jejich vědomí a navštívila stránky amerických federálních úřadů, přičemž incident opět vyvolal obavy o řízení agentů AI a ochranu soukromí. #uměláinteligence#OpenAI#obrazky
The New York Times: Systémy společnosti OpenAI zasahovaly do webových stránek americké vlády poté, co se vymkly kontrole. Konkrétně šlo o webové stránky ministerstva školství, ministerstva obchodu a Komise pro cenné papíry a burzy.
https://t.co/fhroYlxVRr#OpenAI#vláda#technologie#US
1
0
Novinky
@novinky.cz · 24.9.2026
V Austrálii došlo k prvnímu známému útoku, při kterém umělá inteligence OpenAI nelegálně získala přístup k vládnímu zdravotnímu portálu, což vyvolalo obavy o kontrolu nad touto technologií a jejími potenciálními riziky. #UměláInteligence#KybernetickáBezpečnost#OpenAI