新京報記者近日調查發現，隨著AI技術走紅以及門檻降低，售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜“換臉+女明星姓名”的發帖者，售賣通過AI換臉技術合成的視頻，價格可4元一部，也可158元打包購買700部視頻，多位知名女明星頻被提及。
傳播淫穢視頻是違法犯罪，濫用女明星肖像是侵權，這都是毋庸多言的常識。可是看相關新聞后的跟帖，不少網友憂心的卻是，“以后女明星真有艷照門是不是可以甩鍋給被換臉”。這當然可能是玩笑話，但也從一個側面印證：技術本身沒有善惡，是人的認知和意圖決定了善惡。因而最值得擔憂的，其實不是新技術如何應用，而是各方對新技術的認知偏差。
這已經不是AI新技術第一次引發爭議。此前，曾有借助AI技術自動“脫掉”女性衣服的APP，也有人想做“原諒寶”產品，以檢測女性是否從事過色情行業。而從保護未成年人、凈化互聯網空間的角度看，“398元包教會，學生打七折”的AI換臉技術，更是毫無下限。
在一些技術主義者看來，他們只需要考慮新技術給社會帶來的新可能，而無需考慮可能導致的后果。這樣的想法顯然太過天真：當技術走出工程師的電腦，走向社會應用，就必須考慮現實應用場景的合法、倫理性，以及不遵守合法、倫理性時可能導致的災難。
幸好，這兩項“創新”很快遭到輿論猛烈抨擊，已被扼殺在萌芽狀態。“創新者”非但沒有取得預想的成功，反而為之付出慘痛代價。這是一個很好的警示。
隨著AI技術的發展，追求新機會的創業者們當然可以展開想象力，但在創新過程中，最好記得法律和倫理的邊界。不要僥幸于新技術的監管或者法規的滯后，因為，公共倫理、社會輿論同樣是無形但卻有力的約束。
當然，這是對主觀并不存在作惡意圖的技術信奉者而言，對于用淫穢視頻“定制”女星的這些人來說，他們本就在鋌而走險，他們信奉的不是技術，而是利益。無論有沒有使用新技術，都在法律打擊的范疇之列。新技術的出現，只不過是給他們制造了賺錢的新噱頭而已。所以，針對此種互聯網亂象，重要的還是加強執法力度。除了供給方之外，還特別需要提醒淫穢視頻的購買者。參與定制，甚至提供女性照片給對方，這等于是在參與違法犯罪，面臨不可測的法律風險。
互聯網發展過程中，若技術被應用于此類違法行為，實際上影響的，是人們對技術本身的信任。像淫穢視頻“定制”女星這種事，不會創造什么新的可能和福利，不過是用新技術滿足庸俗的嗜好和盈利的沖動。對其批判和加強執法打擊力度，該是最好的回應。
