AI換臉技術起初廣泛應用于電影制作，后被應用于各個行業，并且應用也逐漸變得更加便利，使得普通民眾也能熟練應用這項技術，這也導致了技術濫用，AI換臉技術應用所產生的消極影響也逐漸的暴露。有一部分人在未經他人同意的情況下，擅自將受害人的圖片通過AI換臉的方式，應用到了淫穢視頻和動漫作品中。在國內真正使得AI換臉技術走進普通民眾中的是一款叫做“ZAO”的軟件，“ZAO”將技術首次實現了全民皆可進行換臉，其將AI換臉技術門檻降到最低，使得僅具有入門級電腦基礎的用戶通過上傳照片也能熟練應用。因為使用人數增加，利用該項技術實施違法活動的人也層出不窮。AI換臉作為一項重大的技術創新，若應用于影視行業可極大降低制作成本。但是，該技術一旦越過道德和倫理的界限，則會打開“潘多拉的魔盒”，使得人人都處于危險的境地。這種技術濫用對當事人造成的損害，是對社會的反噬。而加強法律層面的監管，或許是人類面對AI技術所能筑起的最有力的防線。
拓展資料：AI換臉的過程為：人工智能預先分析好視頻里面的五官的形狀和位置；你提供照片后，人工智能再分析照片中的五官形狀和位置；然后再把照片中五官的形狀和位置，與視頻對比著進行合并。人臉互換一般可以用于視頻合成、提供隱私服務、肖像更換或者其他有創新性的應用。
法律依據：民法典第一千一百九十四條網絡用戶、網絡服務提供者利用網絡侵害他人民事權益的，應當承擔侵權責任。法律另有規定的，依照其規定。從法律上直接作出了規定，只要網絡用戶利用網絡實施了侵犯他人合法權利的行為，就要追究其民事責任。所以根據網絡用戶運用AI換臉軟件實施侵權行為時的各種方式，可以發現網絡用戶實際上承擔的是一種直接責任、自己責任和單獨責任。

第一千一百九十五條網絡用戶利用網絡服務實施侵權行為的，權利人有權通知網絡服務提供者采取刪除、屏蔽、斷開鏈接等必要措施。第一千一百九十七條網絡服務提供者知道或者應當知道網絡用戶利用其網絡服務侵害他人民事權益，未采取必要措施的，與該網絡用戶承擔連帶責任。這說明網絡服務提供者負有“通知-刪除”義務，在一定條件下還需承擔連帶責任。

沒有。擅自使用影視片段和人的肖像制作換臉視頻，涉嫌構成侵權行為，通過AI換臉技術制作虛假視頻已經侵權或構成犯罪的，不能隨意轉發。