تحول در فناوری تقلید صدا با چالش‌های نظارتی/ فناوری تقلید صدا در PlayAI پرسش‌های اخلاقی به‌دنبال داشته است

به گزارش تجارت نیوز،

در سال ۲۰۱۶، حماد سید و محمود فلفل، از مهندسان سابق واتس‌اپ، یک افزونه کروم برای خواندن صوتی مقالات مدیوم معرفی کردند. این ابزار به‌سرعت محبوبیت یافت و در سال ۲۰۱۷ به کسب‌وکاری به نام PlayAI (که پیش‌تر PlayHT نام داشت) تبدیل شد. هدف این پلتفرم ساده‌سازی و بهبود تولید محتوای صوتی باکیفیت است.

ویژگی‌های پیشرفته برای تولید صداهای طبیعی

PlayAI به کاربران امکان می‌دهد صداهای پیش‌فرض متنوعی انتخاب یا صدای دلخواه خود را شبیه‌سازی کنند. این پلتفرم ابزارهایی برای تنظیم لحن، ریتم و بیان صدا ارائه می‌دهد که آن را برای کاربردهای مختلف قابل استفاده می‌کند.

یکی از نوآوری‌های برجسته این پلتفرم PlayNote است؛ ابزاری که محتوای مختلف مانند فایل‌های PDF، عکس، ویدئو یا موسیقی را به قالب‌های صوتی پویا تبدیل می‌کند. برای مثال، با عکس یک غذا می‌توان پادکستی درباره تاریخچه یا طرز تهیه آن تولید کرد. مدل PlayDialog نیز با استفاده از داده‌های متنی، گفتارهای طبیعی و روانی تولید می‌کند که در تعاملات انسانی واقعی به نظر می‌رسد.

نگرانی‌های اخلاقی و چالش‌های نظارتی

فناوری پیشرفته تقلید صدا در PlayAI پرسش‌های اخلاقی بسیاری به‌ دنبال داشته است. این پلتفرم از کاربران می‌خواهد هنگام تقلید صدا تایید کنند که رضایت صاحب صدا را دارند، اما هیچ مکانیسم نظارتی‌ای برای صحت این ادعا وجود ندارد.

در آزمایش‌ها، حتی صدای معاون رئیس‌جمهور آمریکا، کامالا هریس، بدون محدودیت شبیه‌سازی شد. این صدا می‌تواند برای تولید محتوای توهین‌آمیز یا نامناسب مورد سوءاستفاده قرار گیرد.

از سوی دیگر، سیستم نظارت PlayAI نیز مورد انتقاد قرار گرفته است. با وجود ادعای این شرکت مبنی بر مسدودسازی محتوای مخرب، گزارش‌هایی از وجود مطالب نامناسب در این پلتفرم منتشر شده است.

حماد سید تاکید می‌کند که شرکت اقدامات لازم مانند حذف صداهای شبیه‌سازی‌شده یا مسدودسازی کاربران خاطی را انجام می‌دهد، اما این اقدامات برای جلوگیری از سوءاستفاده‌های گسترده کافی به‌ نظر نمی‌رسد.

پیچیدگی‌های قانونی و رقابت در صنعت

توانایی‌های پیشرفته PlayAI برای تقلید صدا، خطراتی مانند استفاده از این فناوری در کلاهبرداری‌ها و جعل هویت را افزایش داده است. در ایالت تنسی، استفاده از ابزارهای هوش مصنوعی برای تقلید صدای افراد بدون اجازه ممنوع است.

همچنین، PlayAI درباره منابع داده‌های آموزشی خود شفافیت کافی ارائه نکرده است که می‌تواند زمینه‌ساز چالش‌های قانونی مشابه سایر شرکت‌های این حوزه شود.

در صنعت تقلید صدا رقابت شدیدی برقرار است. شرکت‌های بزرگی مانند ElevenLabs، آمازون، گوگل و مایکروسافت خدمات مشابهی ارائه می‌دهند. در همین حال، بازیگران کوچکی مانند PlayAI نیز با جذب سرمایه‌گذاری‌های کلان درصدد گسترش جایگاه خود هستند.

این شرکت اخیراً در دور اولیه سرمایه‌گذاری، ۲۰ میلیون دلار جذب کرده و قصد دارد فناوری‌های خود را توسعه و تیم ۴۰ نفره‌اش را گسترش دهد.

چشم‌انداز آینده و چالش‌های پیش‌ رو

در حالی که PlayAI گام‌های مهمی در پیشرفت فناوری تقلید صدا برداشته، چالش‌های اخلاقی و قانونی بسیاری در پیش دارد. موفقیت این شرکت به توانایی‌اش در مدیریت این چالش‌ها و پاسخ به نگرانی‌های کاربران و نهادهای نظارتی وابسته است.