"Тиктокификација" на дебатен клуб: AI генерирање на интимни слики

Не ми го собра цел наслов, сакав да има: AI генерирање на интимни слики, скандал со Тејлор Свифт и како локално не афектира оваа технологија? Ама можеби и подобро зошто вака успева да опфати се шо deepfake генерирани слики можи да донесат културолошки и политички.

Веќе некое време deepfake AI слики и видеа кружат онлајн на различни теми. Но, неодамна имаше интимни слики од Тејлор Свифт кои почнаа да кружат на Х, и испаднаа дека се deepfake AI генерирани. Сликите наводно идат од Телеграм група и биле креирани на Microsoft Designer. Од Мајкрософт потврдуваат дека нивниот софтвер е користен и велат дека ќе се обидат да не се користи за злоупотреби (но, како?).

Ова не носи до прашањата за овој дел:

• Која е потребата за генерирање интимен контент користејќи AI?
• Како ова ги афектира жртвите на тие слики?
• Кои се ризиците од ваква злоупотреба на софтверот?
• Како би се спречила ваква злоупотреба?
• Како треба да се заштитат жртвите од овие слики (знам дека видов инфо дека ТС ќе тужела, ама не можам да најдам информацијата, ни како би одела тужбата зошто е ова ново и како е законски покриено на различни места)?
• Какви законски мерки можи да се покренат?
• Дали има начин за покревање свесност?
• Дали има начин за превенција?

Кога се случи ова, се покренаа и други прашања. Со тоа што еве и кај нас се ближат избори, но и во САД, таму покренаа прашања за лесноста на ширење на дезинформации и слики кои може да влијаат на кампањите, за кои прекасно ќе се препознае дека се AI генерирани зошто станале вирални пред да се разоткријат.


Ова ги покрева вториот дел прашања:

• Како ова може да влијае со ширење дезинформации?
• Дали има начин да се заштитиме од тие дезинформации?
• Како ова може да влијае на политичка клима во една држава особено за време на избори (особено земајќи ја во предвид "напорната" работа на политички ботови непосредно пред и за време на политички кампањи)?
• Кои се шансите ваков контент да се злоупотреби за политички цели?
• Дури и да се открие нешто дека е фејк откако ќе стани еднаш вирално, кои би биле последиците?

Заслуга за темава е @sweet-cherry и го кажувам ова зошто секогаш ги дискутирам темите со тие кои предложиле пред да ги отворам. И вчера ми прати важна информација, која мислам дека веќе почна да не афектира локално:

Линк
Иако ова е за наша локална вест, чинам дека негде видов и вест за девојче кое врши суицид поради иста ситуација, само не кај нас.

Ова не носи до третиот дел на прашања:

• Дали има начин да ги заштитиме децата од ваков контент?
• Злоупотреба за булинг во училиштата, која би била форма на превенција?
• Дали кревање свесност и кампањи за истото би помогнало?
• Дали подетално мониторирање на децата е решение или влегува во нарушување на приватност?

И последно, не знаев ова дал да спомнам. Но, додека барав на темава најдов дискусии за како можело да "заштити" некој ваков контент, но за приватна употреба. Во смисла, контент кој е сексуален или агресивен - место да се наштети на жртвата, да се генерира фејк контент за сексуално задоволство на потенцијален агресор, за да не извршел нешто агресивно.

И ова покренува последниот сет прашања:

• Колку е ова исправно?
• Кој е моралниот аспект?
• Како можи некој да е загрозен од ова?
• Што е со правата на достоинствно и автономија на телото на жртвите од кои се прави AI контент, чак и за приватни употреби, а не јавно како шо беше ова со ТС?

Предлог тема од @sweet-cherry.

 

Пошто во скоро сите теми има дискусија за што наредно, од сега па натаму ќе го пишам и ова. Темиве се дел од "дебатен клуб" кој дискутира онлајн трендови и феномени и нивни културолошки и социјални ефекти. Темите се од прилика активни 1 недела (оваа конкретно до 17ти ќе биди, и ќе се обидам максимално ден-два пред затворање да пишам потсетник). Предлог теми можи да видите и предложите во темата за договори, тука.

 

!!! Потсетник дека од темата има уште еден ден пред да ја замениме со нова утре: "влијание на ментал хелт ток".

Коментирајте сега или молчете "засекогаш".

 

Јас сама не си коментирав ама дур отворам темите обично в гла си одговарам и после ме мрзи.

Користење на AI мислам дека само по себе е комплексна тема. Јас имам друг пат и тука коментирано за AI и уметност, за AI и работна сила. И сега, AI и злоупотреба на лице. И колку AI од година во година станува реалистично. Би рекла дека идејата зад ваква технологија можи да е добра, нешто како гугл шо знај да ни олесни многу аспекти, можи и вештачка интелигенција. Но, колку е олеснително ако 90% ми ја заврши работата? Колку останува на мојот мозок да се развива пред да станам зомби кои не е способно да мисли? Тоа како ете прв аспект на злоупотреба, лесно искористување на лице на некој како втор знак на злоупотреба, ефтина "уметност" како трет, итн, листата оди до недоглед.

• Која е потребата за генерирање интимен контент користејќи AI?

Кога се работи за интимни и насилни слики, јас не ја разбирам потребата за нив, во најмала рака да се споделат со јавност. Вервам дека си имаме "мала темна страна" и во најмала рака сме љубопитни и AI сега сите "што ако" мисли можи да ги направи реалност. Но зошто би се споделило тоа со јавност? Најчесто и носејќи некој друг во миксот шо е крајно не фер.

• Како ова ги афектира жртвите на тие слики?

Мислам дека има разлика меѓу славна личност и "обичен смртник", како и разлики по пол и статус. Добро ситуирана и јавна личност има ресурси да докажи, крени свесност за ова и да добие правда. Како шо беше случајот со Тејлор. Од друга страна мислам дека е крајно покомплексно кога афектира тинејџери. Пошто тоа е ранлив период, "лош" збор можи да уништи одреден статус, а не пак "лоша" слика, не земајќи во предвид дали било кое од овие две е вистинито.

• Кои се ризиците од ваква злоупотреба на софтверот?

Предрасуди, булинг, малтретирање, избегнување. Мислам дека ефектите првично се социјални, после како резултат на то идат и проблеми по ментално здравје.

• Како би се спречила ваква злоупотреба?

Ова мислам е како низа други работи за кои само креваме свесност, ама немаме конкретно решение. Многу едукација, многу зборување. На некое свесно ниво повеќето да сме свесни дека е грешно. Ама пак ќе има исклучок луѓе. Исто мислам дека со AI сме многу на почеток, каде уште не сме свесни како се можи да се злоупотреби. И мислам дека во иднина кога ќе се увидат повеќе ризици, ќе се збора поќе на темиве. Иако, ќе да отпочна таа дискусија полека кога беше уметноста инволвирана, и повеќе со актуелните случки. Другите 4 прашања за закони и превенција гледав да ги вклопам тука па ќе ги скокнам, за закони конкретно и ич не разбирам. Ако некој правник можи да исдискутира опции би било идеално.

Зошто сега ни се ближат и нас изборите, вториот дел од прашањата:

• Како ова може да влијае со ширење дезинформации?

И пред AI луѓе кои се постари генерации, многу лесно налепуваат на лажни вести, некој и погоре ова го спомна. AI правејќи ги работите пореалистични, иако сеуште има можност за детали кои издаваат дека нешто е креирсно со вештачка интелигенција, прави уште многу луѓе да паѓаат на вакви лажни вести. Во најмала рака и да се разоткрие нешто дека е лажно по еден ден, фамата и стигмата која можи да се крени во тој еден ден можи да се непоправливи.

• Дали има начин да се заштитиме од тие дезинформации?

Земање се со резерва? Провервање на повеќе извори? Особено кога се слики во прашање, секогаш има мали знаци што на прв поглед личи океј, ама кога ќе загледаш е едноставно грешно. Од тука, мислам дека можи да влијае на политичка клима, пошто сите сме онлајн, читаме информации и носиме информации базирано на тоа. Ако јас генерирам слика од институција и таа слика е фејк, но се рашири сегде - многу луѓе ќе повлечат одредено мислење за таа институција. После и да се увиди дека е фејк - оваа информација можи и да не стигни до сите кои виделе прва информација, и веќе да постои bias кај дел од тие кај кои ќе стигни информацијата и да ја отфрлат.

• Кои се шансите ваков контент да се злоупотреби за политички цели?

Секогаш сметам дека во политика нема фер правила. Така да... Према мене шансите се огромни за злоупотреба за политички цели.

И пак круг кон третиот сет прашања кој ги афектира децата пошто тие ми се можеби едина категорија за која на вистина ми е грижа и ги перцепирам како екстремно ранливи.

• Дали има начин да ги заштитиме децата од ваков контент?

Страв ми е дека одговорот е не. Можиме да работиме со нив и да ги учиме тие тоа да нд го прават. Да им помогниме да препознаат кој би ги повредил, стандард работи. Ама директно да ги заштитиме? Не ми текнува како би личела превенција во ситуацијата. А, очајно сакам превенција. Пошто тоа носи до:

• Злоупотреба за булинг во училиштата, која би била форма на превенција?

Со булинг се бориме од памтивек и не можиме да мрдниме од мртва точка, дел зошто ја разместуваме и работиме само со жртвата. Стравот ми е дека булинг со AI ќе стани почест. Едино решенија гледам едукација, работење на свесност, и носење на злоупотребувачите на терапија за да се види зошто вака би сакале да наштетат некому. Накратко, да се пристапи кон булингот правилно пошто користење AI во склоп на булинг е само алатка, а не основа.

• Дали подетално мониторирање на децата е решение или влегува во нарушување на приватност?

Генерално јас сметам дека децата после одредена возраст треба да имаат контрола на својата приватност. Пошто растат, се развиваат, не можи комотно да зборуваат ако се свесни дека некој во секој момент можи да им прочита муабетите. Сепак никаква контрола пак кај дете сметам дека не е идеално и повремено "спуштање ролетни" е идеално. Нормално ова зависи и од односот на родител-дете.

И последно сакам да искоментирам за ова шо најдов дискусии за како можело да "заштити" некој ваков контент, но за приватна употреба. Во смисла, контент кој е сексуален или агресивен - место да се наштети на жртвата, да се генерира фејк контент за сексуално задоволство на потенцијален агресор, за да не извршел нешто агресивно.

Имаше и многу статии, ако сакате барајте ги, јас сакам да се смеам дека ако ги отворам уште еднаш FBI ќе ми тропнат на врата оти неќам уште еднаш контакт со таков контент.

• Колку е ова исправно?

Мислам дека ако изборот ни е или-или ситуација меѓу насилство и само насилна слика, нормално дека подобро е насилна слика. Проблемот е шо:

1. Зошто не би работеле на тие насилни мисли да ги снема туку да ги храниме?
2. Која е гаранцијата дека тој насилен контент нема да го навикни мозокот на насилство па индивидуата сепак да посегни по тоа за што мисли дека превентира контент?

Имаше статии за порно со силување и порно со деца. И одеа во детал како ако имало таков контент, немало насилниците вистина да ги прават тие работи. Пак има таков контент, за жал со вистински личности. И пак насилниците се насилници. Треба да се работи на проблемот со насилници, а не да им се створа атмосфера да бидат насилници.

• Што е со правата на достоинствно и автономија на телото на жртвите од кои се прави AI контент, чак и за приватни употреби, а не јавно како шо беше ова со ТС?

Кој има право да користи нечие тело и лице "за да не наштетел поинаку"? Па никој. Коренот на проблемот е насилните идеи и предиспозиции на кои треба да се работи. Во никој случај не должиме на вакви особи да прајме ситуации шо се непријатни за нас, само за тие потенцијално ништо да не напраеле иако шансите се дека пак ќе напрат.

Дејм. Мислам дека се доискажав.