根据北京市通州区人民法院的消息，近期AI技术备受关注，其中包括“AI孙燕姿”、“AI王菲”等AI音乐人引起了轰动。然而，随着AI技术的发展，一些不法分子也利用这项技术进行伪造、欺诈等违法行为。

最近，北京市通州区人民法院发现一些人利用AI换脸和拟声技术进行不法行为，例如制作虚假的不雅视频或进行诈骗活动。这些行为不仅侵害了他人的合法权益，也对社会产生不良影响。

针对这种情况，通州法院通过典型案例提醒公众要提高维权和反诈骗意识，避免成为不法分子的受害者。

其中一起案例涉及某公司未经陈某许可，利用AI技术将陈某发布在社交平台上的多个唯美视频作为模板，供软件用户进行面部替换。陈某发现此情况后提起诉讼，法院最终认定该公司侵犯了陈某的肖像权，并判令其删除相关视频，并赔偿陈某1000元。

法院调研发现，商业利益驱使下使用AI换脸和拟声技术很容易引发肖像权、姓名权等人格权的纠纷。一些商家经常在未经当事人许可和同意的情况下进行换脸、换声操作以牟取利润。这种行为属于侵权行为，如果遇到类似情况，公众要有主动维权意识，搜集证据并积极运用法律途径维护自身合法权益。

法官介绍，人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利。自然人享有肖像权，有权依法制作、使用、公开或许可他人使用他们的肖像。肖像是通过影像、雕塑、绘画等方式，在一定载体上反映的特定自然人可以被识别的外部形象。任何组织或个人不得以丑化、污损，或利用信息技术手段伪造的方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，除非法律另有规定。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或公开肖像权人的肖像。