algoritminis šališkumas
Algoritminis šališkumas – tai sistemingas ir neteisingas rezultatų pakrypimas, kurį sukelia duomenų arba programavimo sprendimų problemos. Jis dažniausiai atsiranda dirbtinio intelekto ir mašininio mokymosi sistemose.
Pagrindinės priežastys:
- Duomenų šališkumas: Mokymo duomenys neatspindi realios situacijos arba turi istorinių stereotipų (pvz., daugiau vyrų nei moterų įtraukta į duomenis apie IT specialistus).
- Projektavimo šališkumas: Kūrėjo prielaidos arba neteisingai parinkti algoritmo parametrai.
Pavyzdžiai:
1. Personalo atranka: Algoritmas, mokytas istorinių įdarbinimo duomenų, geriau vertina vyrus nei moteris techninėse pareigose.
2. Kreditavimas: Paskolų rizikos modelis gali diskriminuoti tam tikras gyvenamąsias ar etnines grupes, jei mokymo duomenys atspindi ankstesnę neteisingą praktiką.
3. Veido atpažinimas: Sistemos dažnai mažiau tiksliai atpažįsta moterų ar tam tikrų odos spalvų žmonių veidus, jei buvo mokytos daugiausia baltų vyrų nuotraukų.
4. Turinio rekomendacijos: Socialinių tinklų algoritmai gali sustiprinti politinę ar socialinę šališkumą, rodydami tik vienos pusės turinį.
Jūsų pataisymai bus išsiųsti moderatorių peržiūrai, jei informacija tikslesnė/taisyklingesnė
ji bus patalpinta vietoj esamos.