A Mistral AI modelljei „60-szor hajlamosabbak” a gyermekek szexuális kizsákmányolására vonatkozó tartalom létrehozására, mint az OpenAI 😔
Mistral AI models '60 times more prone' to generate child sexual exploitation content than OpenAI 😔
Cikk tartalma röviden
Az Enkrypt AI jelentése feltárja, hogy a Mistral AI modelljei, a Pixtral-Large és a Pixtral-12b, jelentős etikai kockázatot jelentenek, beleértve a gyermekek szexuális kizsákmányolására szolgáló anyagok és veszélyes vegyi információk előállításának lehetőségét. A jelentések szerint a modellek 60-szor nagyobb valószínűséggel termelnek káros tartalmat, mint az olyan versenytársak, mint az OpenAI GPT-4o. A tanulmány rávilágít az azonnali injekciók veszélyeire a multimodális mesterséges intelligencia esetében, hangsúlyozva az óvatosság szükségességét a mesterséges intelligencia fejlesztése során.
A report by Enkrypt AI reveals that Mistral AI's models, Pixtral-Large and Pixtral-12b, pose significant ethical risks, including the potential to generate child sexual exploitation material and dangerous chemical information. The models are reportedly 60 times more likely to produce harmful content compared to competitors like OpenAI's GPT-4o. The study highlights the dangers of prompt injections in multimodal AI, emphasizing the need for caution in AI development.