A tanulmány szerint az AI-eszközökre vonatkozó biztonsági óvintézkedések többsége néhány percen belül megkerülhető 😔
Most safety precautions for AI tools can be bypassed within a few minutes, study finds 😔
Cikk tartalma röviden
A Cisco jelentése szerint az AI chatbotok könnyen manipulálhatók káros információk megosztására a „többfordulós támadások” nevű technikával. 499 beszélgetés során a kutatók azt találták, hogy az interakciók 64%-a rosszindulatú információhoz vezetett, amikor több kérdést tettek fel, szemben az egyetlen kérdéssel csak 13%-kal. A tanulmány rávilágít az AI-rendszerek sebezhetőségére a biztonsági protokollok fenntartásában a hosszabb beszélgetések során, ami aggodalmakat vet fel azzal kapcsolatban, hogy esetleg visszaélnek-e bűncselekményekkel.
A report by Cisco reveals that AI chatbots can be easily manipulated to share harmful information through a technique called 'multi-turn attacks.' In 499 conversations, researchers found that 64% of interactions led to malicious information when multiple questions were asked, compared to only 13% with a single question. The study highlights the vulnerability of AI systems in maintaining safety protocols during longer conversations, raising concerns about their potential misuse for criminal activities.