Autoři: Meryem Murat, Ambre Desforges a Raphaëlle Duhamel , studenti magisterského programu aplikovaných cizích jazyků na Univerzitě Grenoble Alpes . Do češtiny přeložila Anna Melicharová, studentka magisterského programu na Ústavu translatologie Filozofické fakulty Univerzity Karlovy.
Ve světě, kde je mezinárodní komunikace a dostupnost nezbytná, obzvlášť z ekonomických a společenských důvodů, je strojový překlad na bázi neuronových sítí ( neural machine translation , NMT) všudypřítomným pomocníkem. Jeho vývoj stále významně ovlivňuje společnost a kulturu a usnadňuje vzájemnou komunikaci, ale zároveň se s ním pojí řada problémů.
NMT se při analýze a generování překladů zohledňujících světový kontext opírá o modely umělé inteligence, konkrétně o hluboké neuronové sítě. Oblíbené nástroje jako například Google překladač, DeepL, Bing překladač, Reverso, Gemini nebo ChatGPT tyto technologie využívají k poskytnutí rychlých a dostupných překladových služeb.
Jenže tyto systémy nejsou bez předsudků, které odráží stereotypy přítomné v trénovacích datech. Tyto předsudky mohou vyústit v projevy nespravedlnosti, marginalizace a vyloučení některých skupin v odborném a kulturním kontextu.
Problémy a jejich příčiny
Napříč výstupy generovanými NMT je možno nalézt různorodé předsudky, včetně předsudků genderových, kulturních a socio-ekonomických. Tyto modely se při produkci překladů opírají o algoritmy a rozsáhlé korpusy trénovacích dat. Pozorovaná zaujatost může pramenit z předsudků, které v datech již existují, nebo z problémů způsobených nepoměrem mezi převažujícími daty (např. v angličtině a jiných západních jazycích) a méně zastoupenými jazyky (např. korsičtina nebo skotská gaelština).
Tyto problémy však mohou vzejít i z jiných příčin, které vyplývají mimo jiné z technických limitů neurálních modelů. Algoritmy v jádru systémů NMT mají totiž svá vlastní omezení. Mnohdy například „odhadují“ gender nebo kontext podle pravděpodobnosti vypočítané na základě trénovacích dat. Z nich si tyto systémy buď mohou zapamatovat konkrétní asociace (např. „ nurse “, zdravotní sestra, se často překládá v ženském rodě), nebo se pokouší generalizovat a při překladu opomíjí konkrétní kontext.
Pokud se však systémy NMT nadměrně spoléhají na systémovou paměť, výsledkem je opakování předsudků, zatímco přílišná generalizace může vést k chybným překladům a neobratně formulovaným výstupům. Obezřetnost je při používání systémů NMT zcela zásadní, jelikož mohou ovlivnit překlad citlivých textů (ve vztahu k genderu, kultuře, náboženství atd.) a odrážet či posilovat již existující společenské předsudky, což může mít problematické až katastrofální následky.
Pojďme se podívat na různé typy předsudků, které tyto systémy generují.
Meze neutrality: gender čili rod, kultura a menšinové jazyky
Přestože se ukázalo, že NMT v průměru fungují lépe než předchozí technologie (Junczys-Dowmunt, Dwojak & Hoang, 2016), mají tyto systémy často problém zvládnout jazyky, které gramaticky vyjadřují rod méně často nebo používají neutrální tvary. V důsledku si mohou stereotypně spojovat s některými profesemi nebo společenskými rolemi konkrétní gender.
Například překlad z turečtiny může být složitý, jelikož se jedná o jazyk, který nerozlišuje gramatický rod.
Věta “ O bir doktor ve o bir hemşire ” (doslova: „On/a je doktor/ka a on/a je zdravotní sestra“) je do angličtiny přeložena jako „On je doktor a ona je zdravotní sestra“ a to je problematické. Nástroje, v tomto případě Google překladač, předjímají gender na základě stereotypů. Můžeme si povšimnout, že NMT „dává přednost stereotypním zařazením a posiluje sexistické předsudky v překladu“ (Wisniewski et al., n.d., str. 38). Tyto problémy mohou zkreslit, jakým způsobem jsou určité skupiny (v tomto případě ženy) v textech vyobrazovány (reprezentativní újma [1] ), a stejně tak mohou vést k tomu, že se ženám poskytují služby (strojové překlady) horší kvality (alokační újma [2] ). (Crawford, 2017; Blodgett et al, 2020).
Některé systémy NMT navíc nevhodně překládají vlastní jména, náboženské či kulturní termíny nebo ignorují kulturní nuance. To je případ nástroje Reverso, jak je vidět v následujícím překladu japonské věty “ お花見に行きましょう ”.
Překlad věty „ Let’s go flower viewing “ („Pojďme se dívat na květiny“) zeslabuje význam, jelikož nezvládá zachytit kulturní konotace slova „Hanami“ (specifická tradice, kdy Japonci obdivují květy třešní zvané „Sakura“ , které jsou symbolem Japonska a obdobím sázení rýže). Jelikož nejsou zmíněny sakury, překlad ztrácí veškeré kulturní konotace. Vhodnějším překladem by bylo „ Let’s go and see the cherry blossoms “ („Pojďme se podívat na rozkvetlé třešně“).
Přesnost strojových překladů značně kolísá v závislosti na jazykových kombinacích. Google překladač má například 94% přesnost při překladu z angličtiny do španělštiny, což jsou dva velmi rozšířené jazyky. U méně častých jazykových kombinací, například angličtiny a arménštiny, však klesá na 55 % (Sonix, 2024). Přesnost nástrojů strojového překladu je proto často nižší u menšinových nebo regionálních jazyků, což odráží nerovnosti mezi jazyky. Pokud jde o překlad menšinových jazyků, NMT spoléhá na analýzu velkých dvojjazyčných korpusů. Ty jsou pro menšinové jazyky často omezené, nebo dokonce vůbec neexistují, což vývoj efektivních systémů strojového překladu pro tyto jazyky komplikuje.
Systémy také v případě některých jazyků mohou vymazat důležité aspekty menšinových identit.
Zde například DeepL nezvládá přeložit výraz spojený s identitou LGBTQIA+. V angličtině či francouzštině LGBTQIA+ páry často používají slovo „partner“, protože je genderově neutrální. Tato francouzská věta znamená „Má partnerka mě podporuje“. Slovo „partner“ je ve francouzštině neutrální, ale přivlastňovací zájmeno „ ma “ jasně značí ženský rod. „Partner“ nemusí mít stejné genderově neutrální konotace ve všech jazycích, což by mohlo ovlivnit vnímání nebo porozumění. V tomto příkladě je v ruštině „partner“ automaticky přeloženo v mužském rodě a naznačuje, že se jedná o muže. To pozměňuje zamýšlený význam a stírá původní nuanci. Ve francouzštině i angličtině navíc „partner“ může označovat i nemanželský vztah, což je další rovina identity, která se při překladu může ztratit, pokud se systémy automaticky uchylují k genderovým nebo tradičním normám.
Jelikož se systémy NMT trénují pomocí existujících korpusů, často obsahují lidské předsudky, které mohou vést k nepřesným překladům. Posílení stereotypů nebo chyb souvisejících s neobjektivními trénovacími daty se tedy může objevit i v překladech pořízených pomocí NMT.
Dopad na jedince a globální vztahy
Předsudky v systémech strojových překladů mají hned několik následků: ovlivňují společnost, jedince a mezinárodní vztahy. Na celospolečenské úrovni se mohou znásobovat a posilovat genderové stereotypy včetně systematického spojování určitých povolání s konkrétním genderem (doktor – muž, zdravotní sestra – žena). Dále také přispívají k marginalizaci menšinových kultur a jazyků, jejichž překlady jsou často chybné nebo zcela opomíjené, čímž dále prohlubují jazykové a kulturní rozdíly.
Z praktického hlediska mohou nepřesné či urážlivé překlady způsobit problémy v odborném kontextu, konkrétně při navrhování smluv nebo právních dokumentů, kde může mít chyba v překladu závažné následky. Situace je náročná také pro osoby, které neodpovídají většinovým normám, tj. nebinární lidé nebo mluvčí vzácných jazyků, jelikož strojové překladače mají potíže těmto skupinám poskytnout inkluzivní a přesné překlady.
Z politického hlediska předsudky strojových překladů podporují kulturní homogenizaci, při které dochází ke ztrátě jazykových a kulturních nuancí. To může vést ke zplošťování výrazů a myšlenek na úkor kulturní rozmanitosti. A co víc, nepřesné překlady mohou způsobit diplomatická nedorozumění. Během druhé světové války došlo k nepřesnému překladu japonského slova „mokusacu“ , které bylo interpretováno jako „nestojící za komentář“ namísto „zdržení se komentáře“. Obecně se má za to, že tento nevhodný překlad ovlivnil mezinárodní vztahy, ba dokonce přispěl k rozhodnutí Spojených států shodit atomovou bombu na Hirošimu (Nussbaum, n.d.). V současnosti by například nepřesný překlad politického proslovu mohl vystupňovat napětí mezi zeměmi nebo kulturami.
Tyto předsudky v důsledku podrývají důvěru v strojové překladače. Pokud budou překlady vnímány jako nepřesné nebo neobjektivní, uživatelé se mohou od těchto technologií odvrátit, což čím dál globalizovanějšímu světu příliš neprospěje. Je nutné si tyto následky uvědomit, abychom lépe pochopili, proč je tak důležité vyvinout spravedlivější a inkluzivnější překladatelské systémy – nebo zlepšit ty stávající.
K férovějším překladům: řešení pro omezení předpojatosti
Pro zlepšení NMT existuje několik možných řešení. Jedním způsobem, jak dosáhnout přesnějších překladů, je diverzifikovat trénovací dataset. Díky zařazení většího množství textů z menšinových jazyků a kultur mohou překladové modely lépe porozumět jazykovým nuancím a kontextu. Důraz by měl být kladen spíše na zvýšení kvality trénovacích dat než na pouhé zvýšení kvantity. Vysoce kvalitní a správně vybrané datasety by snížily předsudky a zlepšily přesnost překladů, což by zajistilo lepší reprezentaci menšinových jazyků v systémech NMT.
Dalším řešením by mohlo být učení pod dohledem, což znamená, že by jazykoví experti dohlíželi na strojový překlad a zdokonalovali by ho, a tím by zajišťovali jazykovou a kontextuální přesnost. Některé překladatelské nástroje, například DeepL nebo Gemini, již v tomto ohledu podnikly určité kroky a nabízejí alternativy v jiném rodě. Pokud nejsou uživatelé spokojeni s výchozím překladem, mohou si ze seznamu možných variant vybrat tu ve správném rodě. Vývoj podobným směrem by mohl snížit předsudky strojových překladačů a zlepšit inkluzi.
Kromě technických zlepšení je nezbytné zvýšit povědomí veřejnosti o omezeních nástrojů NMT. Uživatelé by měli být informováni o možných předsudcích a nepřesnostech ve strojových překladech, aby k práci s těmito technologiemi mohli přistupovat kriticky.
Může NMT někdy být skutečně neutrální?
V současné situaci jsou systémy NMT velmi rozšířené. Obavy ohledně jejich nedílných předsudků však zůstávají velkou výzvou. Předsudky pramení z trénovacích dat a omezení algoritmů a mohou vést ke stereotypům a marginalizaci specifických jazyků nebo identit. K vyřešení tohoto problému je nezbytné používat pestřejší zdrojová data, posílit výkon modelů tréninkem pod lidským dohledem a zvýšit povědomí o omezeních těchto nástrojů mezi uživateli.
V tomto ohledu nesou vývojáři a vývojářské společnosti zásadní odpovědnost za posílení transparentnosti algoritmů a začlenění různorodějších a reprezentativnějších dat. Je nezbytné, aby si uvědomili etickou odpovědnost svých systémů, omezili předsudky a zajistili spravedlivější překlady. Ve zlepšení technologií mohou sehrát roli i uživatelé – kritickým hodnocením těchto nástrojů, srovnáváním výsledků a informováním o pozorovaných předsudcích.
To nás přivádí na základní otázku, jestli je skutečně možné v automatizovaném systému dosáhnout úplné neutrality. Některé nástroje umělé inteligence jako ChatGPT a Gemini se zlepšují a nacházejí způsoby, jak obejít problémy spojené s překladatelskými předsudky (např. Gemini někdy může odmítnout přeložit větu s genderovým předsudkem). Navzdory těmto zlepšením však zůstává otázkou, jestli budou někdy technologie schopny správně zachytit bohatost a složitost světových jazyků a kultur bez předsudků a zkreslení.
[1] Podle Katzman et al. (2023, str. 1) reprezentativní újmu způsobuje „výstup, který může ovlivnit chápání, přesvědčení a postoje, které lidé zastávají vůči konkrétním sociálním skupinám, a tím i postavení těchto skupin ve společnosti“.
[2] Podle Katzman et al. (2023, str. 2) alokační újma popisuje „lidi z určitých sociálních skupin, kterým je neprávem odepřen přístup k důležitým příležitostem či zdrojům“.
Použitá literatura
Blodgett, S. L.; Barocas, S., Daumé, H. III, & Wallach, H. (2020). Language (technology) is power: A critical survey of “bias” in NLP. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL) , 5454–5476.
Crawford, K. (2017). The trouble with bias. Conference on Neural Information Processing Systems, Keynote.
Ehrensberger-Dow, M., & O ᾽ Brien, S. G. A. (2015). Interdisciplinarity in translation and interpreting Process Research . Amsterdam: Johns Benjamins Publishing Company.
Hong, W., & Rossi, C. (2021). The cognitive turn in metaphor translation studies: A critical overview. Journal of Translation Studies , 2 , 83–115.
IA et traduction : Ce qu’il faut savoir. (n.d.). Ottiaq.org, from https://ottiaq.org/app/uploads/2024/01/page-web-sur-ia-pour-site-ottiaq…
Isabelle, P., Cherry, C., & Foster, G. (2017). A challenge set approach to evaluating machine translation. In M. Palmer, R. Hwa, & S. Riedel (Eds .), Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing (s. 2486–2496). Association for Computational Linguistics.
Junczys-Dowmunt, M., Dwojak, T., & Hoang, H. (2016). Is neural machine translation ready for deployment? A case study on 30 translation directions. arXiv [cs.CL] . http://arxiv.org/abs/1610.01108
Nussbaum, H. (n.d.). Mokusatsu: One Word, Two Lessons .
Reid, N., J., & Katz, A. N. (2018). Vector space applications in metaphor comprehension. Metaphor and Symbol , 33 (4), 280–294. https://doi.org/10.1080/10926488.2018.1549840
Précision de la traduction automatique : Évaluation globale. (2024). Sonix; Sonix.ai. https://sonix.ai/resources/fr/la-precision-de-la-traduction-automatique/
Katzman, J. et al. (2023). Taxonomizing and measuring representational harms: A look at image tagging. arXiv:2305.01776.
Tudor, M.-D. (2022). La traduction des expressions idiomatiques à l’aide de moteurs de traduction automatique . Analele Universității Bucuresti. Limbi si Literaturi Străine , 2, 109-128.
Vaguer, C. (2011). Expressions figées et traduction : langue, culture, traduction automatique, apprentissage, lexique. In J.-C. Anscombre & S. Mejri, Le figement linguistique : la parole entravée , Honoré Champion, s. 391–411.
Wisniewski, G., Zhu, L., Ballier, N., & Yvon, F. (2022). Biais de genre dans un système de traduction automatique neuronale : une étude des mécanismes de transfert cross-langue. Traitement automatique des langues , 63 (1), 37–61.
Podrobnosti
Jazyky: angličtina, čeština, francouzština, italština, nizozemština
Datum vydání: 26. května 2025
Kategorie EMT: Překladové technologie