Microsoft omezí chat v Bingu aneb AI začala být opět „divná“

Microsoft zavádí určitá omezení konverzace pro svou umělou inteligenci Bing v reakci na to, že chatbot několikrát trochu „rozhodil“ uživatele. Poté, co se ukázalo, že Bing (respektive AI chatbot) uživatele uráží, lže jim a emočně jimi manipuluje, bude chatování omezeno na 50 otázek za den a pět za relaci.

„Naše data ukázala, že naprostá většina lidí najde odpovědi, které hledá, během pěti výměn a že jen asi procento chatových konverzací má více než 50 zpráv,“ uvedl tým Bingu v příspěvku na blogu. Pokud uživatelé dosáhnou limitu pěti konverzací, Bing je vyzve k založení nového tématu, aby se zabránilo dlouhým chatovým relacím zpět.

Společnost Microsoft varovala, že tyto delší chatové relace s 15 a více otázkami mohou způsobit, že se Bing „začne opakovat nebo bude podněcován/vyprovokován k odpovědím, které nemusí být nutně užitečné nebo v souladu s námi navrženým tónem“. Vymazání konverzace po pouhých pěti otázkách znamená, že „model nebude zmatený“, uvedl Microsoft. Microsoft stále pracuje na zlepšení Bingu, ale není zatím jasné, jak dlouho tato omezení potrvají. „Jak budeme nadále získávat zpětnou vazbu, budeme se zabývat rozšířením limitů na chatovací relace,“ uvedl Microsoft, takže určitě nejde o trvalé rozhodnutí. Funkce chatu Bing se nadále denně vylepšuje, řeší se technické problémy a každý týden se objevují větší opravy, které mají zlepšit vyhledávání a odpovědi.

Zdroj: The Verge