Tým E-Bezpečí z Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s Univerzitou Karlovou a hubem CEDMO připravil novou elektronickou publikaci s názvem Rizika spojená s generativní umělou inteligencí, která se věnuje velmi důležité a aktuální problematice potenciálních a reálných rizik spojených s umělou inteligencí (AI).
Stáhněte si příručku zdarma na webu CEDMO nebo na webu E-Bezpečí.
Klíčovým tématem knihy je zneužívání generativní AI k tvorbě dezinformací a falešných zpráv. I přes existenci etických omezení mohou uživatelé umělé inteligence tato pravidla obejít a generovat texty dezinformační povahy. Problémem nejsou pouze hoaxy, ale i vyděračské dopisy či podvodné spamy.
Významná část knihy je věnována i deepfake technologiím, které umožňují vytvářet realistická videa s fiktivními událostmi, což může vést k narušení důvěry ve veřejné instituce nebo ovlivnění politických procesů (včetně voleb).
Úvodní část je věnována především problematice halucinování a tzv. AI biasu, mimo jiné například stereotypizací a zkreslováním informací, kdy umělá inteligence nemusí v praxi uživatelům sdělit vyloženě nepravdivou informaci, ale informaci, která je určitým způsobem zkreslena.
Veřejnosti je současně k dispozici i publikace určená seniorům, kterou CEDMO ve spolupráci s E-Bezpečím představilo v červnu letošního roku: Rizika spojená s umělou inteligencí pro seniory
Zdroj: Tisková zpráva CEDMO ze dne 4. září 2024