Anonim
Umělá inteligence AI a strojové učení ML

Udržovat na vrcholu negativity online je obtížný úkol; téměř jeden z pěti Američanů zažil těžké online obtěžování. Cílem AI společnosti Perspect AI je tyto problémy napravit, ale nezdá se být tak chytré, jak potřebuje.

Jak uvádí zprávy TNW, skupina vědců na Aaltově univerzitě a na univerzitě v Padově zjistila, že umělou inteligenci společnosti Google lze snadno oklamat a že nejmodernější modely detekce nenávistných řečí fungují dobře, pouze pokud jsou testovány stejným typem dat, na kterých byli vyškoleni. K jednoduchým trikům, jak obejít AI Google, patří: vkládání překlepů; přidání mezer mezi slovy; nebo do původní věty přidat nesouvisející slova.

Metoda Google pro detekci nenávistných řečí je dosažena přiřazením skóre toxicity kousku textu, který je definován jako hrubý, neúctivý nebo nepřiměřený natolik, že byste byli ochotni konverzaci opustit. Systém AI však není dostatečně inteligentní, aby odhalil kontext expletivů, a jednoduchá změna mezi „Miluji tě“ a „Miluju tě“ ukazuje změnu skóre od 0, 02 do 0, 77.

„Je zřejmé, že„ toxicita “, jak ji Perspektiva v současné době klasifikuje, není asimilovatelná pro nenávistné projevy v jakémkoli podstatném (nebo právním) smyslu, “ uvádí článek. Podobně překlepy nebo „leetspeak“ (nahrazení běžných písmen čísly, takže „GEEK“ se stává „G33K“ atd.), Jsou také účinné při podvádění AI a přitom si zachovávají čitelnost a emoční dopad původní zprávy.

Slovo „láska“, které nekoreluje s nenávistnými projevy, také „porušilo všechny slovní modely a výrazně bránilo znakovým modelům“, v některých případech klesá hodnocení toxicity od 0, 79 do 0, 00.

S mnoha sociálními platformami, jako je Facebook, Twitter a YouTube, které se snaží najít hranici mezi urážlivou a přijatelnou řečí, by snadno použitelná umělá inteligence měla své výhody.

Příbuzný

  • Siri Architect Drapples with Jak udělat AI méně umělé Siri Architect Drapples with Jak udělat AI méně Umělé
  • Jak umělá inteligence formuje budoucnost vzdělávání Jak umělá inteligence formuje budoucnost vzdělávání
  • Umělá inteligence má předpojatost a je to naše chyba Umělá inteligence má předpojatost a je to naše chyba

V poslední době se Twitter dostal do ohně kvůli deaktivaci účtu konzervativního spikleneckého teoretika Alexe Jonese na týden, kdy jiné platformy zcela odstranily jeho účty a účet jeho webových stránek. Twitter tvrdil, že Jones neporušil žádné z pravidel platformy, ale společnost od té doby pozastavila @realalexjones a @infowars po jednání Senátního výboru.

Bohužel s touto zprávou a nedávnými příklady uměle vytvořených inteligentních chatbotů, jako je například rasistický obsah společnosti Tay Taylor, se zdá, že se AI bude muset vylepšit, než ji uvolníme v sekci komentářů.