Instagram a anunţat că va începe să folosească un sistem care foloseşte învăţarea mecanică pentru a preveni tentativele de hărţuire în cadrul reţelei.
Inteligenţa artificială va scana atât descrierile introduse de utilizatori, cât şi imaginile propriu-zise pentru semne care ar putea reprezenta forme de hărţuire. Instagram va folosi AI-ul în mod proactiv, pentru a preveni acest tip de conduită.
AI-ul nu va fi singurul care va face evaluarea conţinutului, ci va fi la început un instrument ajutător pentru moderatorii umani. La ora actuală, înţelegerea limbajului uman pentru AI nu este suficient de bună pentru ca o companie precum Instagram să se bazeze exclusiv pe el.
În schimb, AI-ul va fi folosit ca un filtru care va scana imaginile şi descrierile care le însoţesc înainte ca acestea să fie analizate de un moderator. Astfel, cantitatea de false pozitive care ajung să necesite atenţia moderatorilor se speră să fie mai mică.
Cei de la Instagram nu au detaliat modul în care funcţionează AI-ul în acest caz şi ce aspecte are acesta în vedere când analizează conţinutul. Păstrarea secretului ar putea fi un lucru bun în acest caz, în ideea că utilizatorii rău intenţionaţi nu ar afla cum să păcălească algoritmul.
Noua tehnologie, care va fi folosită inclusiv pentru a filtra comentariile postate la transmisiunile video directe, este prima lansată sub umbrela noului şef Instagram, Adam Mosseri, şi va fi implementată treptat pe parcursul următoarelor săptămâni.
Instagram este unul din puţinele produse Facebook care nu suferă de o imagine proastă şi o lipsă de încredere din partea utilizatorilor ca urmare a scandalurilor din ultima vreme. Instagram este un produs profitabil, popular şi, foarte important, preferat de tineri.
De aceea, pentru Facebook este foarte important să păstreze imaginea bună şi trendul pozitiv pe care se află Instagram, iar eliminarea comportamentelor agresive face clar parte din această politică.
