ZH
搜索
图片来源:gagadget.com

研究人员开发出可自动生成电影预告片的AI模型

人工智能是一项可以应用于任何领域的技术。当今发生的一切都证明了这一点:基于机器学习和深度学习的项目正被应用于各个领域,从医学到娱乐和艺术。 

预告片是向观众介绍新电影的短视频片段,常常是电影公司宣传策略中的关键要素。要想最有效,预告片应简明扼要地概括电影情节,并以吸引人的形式传达其艺术风格和整体氛围。

根据一种电影学派的观点,预告片应具有由三幕构成的叙事结构:第一幕介绍人物和情节,第二幕引入主要冲突,第三幕则提升赌注并提供结局的悬念。 

另一种学派更注重预告片的情绪,即由故事的起伏决定。按照这种方法,预告片应先保持中等强度以吸引观众,然后降至低强度以传达故事的关键信息,之后逐步提高强度,直至在预告片结尾达到高潮。 

图片来源:gagadget.com

迄今为止,电影预告片主要由人工制作。然而,近来一些从事AI研究的学者开始探讨这些宣传片也可以由机器自动生成的可能性。

爱丁堡大学的研究人员开发出一种基于人工神经网络的模型,可以自动生成电影预告片。该模型在arXiv上的一篇论文中发布,采用基于图的无监督机器学习算法构建。

为了更好地完成自动生成电影预告片的任务,研究人员将其拆分为两个子任务:确定电影的叙事结构,以及预测影片所传达的情绪(即氛围)。因此,他们创建的技术既处理影片的片段(即视频),也处理电影剧本中的文本段落。

«我们将电影建模为图,其中节点是画面帧,边表示它们之间的语义关系。我们通过联合对比学习来学习这些关系,该学习利用剧本中的特权文本信息(例如人物、动作、情境)。随后,无监督算法遍历该图并生成预告片》,参与该研究的Pinelopi Papalampidi、Frank Keller和Mirella Lapata表示。 

实际上,他们创建的电影预告片生成方法由两个神经网络组成。其中一个网络处理从电影视频流中获得的画面多模态表示,另一个则分析基于剧本的时刻文本表示。

图片来源:gagadget.com

两个神经网络协同工作,可以识别电影中的转折点,即特别重要、应当在预告片中展示的部分。电影中的转折点通常包括机遇、计划转变、不归点、严重失败和高潮。

科学家们通过一系列测试评估了他们的电影预告片生成技术。结果显示,该技术识别电影转折点的准确率明显高于其他基线预告片生成方法。

«我们方法的优势在于它是可解释的,并且可以很容易地作为人在回路中的工具使用。具体而言,借助每个步骤中的直接邻近关系,可以根据各种自动标准甚至手动选择画面。我们的方法将生成预告片片段所需浏览的画面数量大幅减少至整部电影的10%。此外,我们的标准允许用户探索电影的不同部分并制作多样化的预告片》,研究报告中写道。 

此外,研究人员使用该模型为40部不同的电影生成了预告片。随后,他们将这些生成预告片的质量与采用基于监督学习的方法(即借助人工协助)制作的预告片进行了比较。 

科学家们在Amazon Mechanical Turk(AMT)上选取了观众进行提问,询问参与者更喜欢哪些预告片。有趣的是,大多数受访者更喜欢由该技术生成的预告片,而非有监督模型生成的版本。

虽然Papalampidi、Keller和Lapata创建的模型可能尚不能制作出完美的预告片,但电影公司最终或许可以借助它来简化并加快预告片的制作。与此同时,团队计划继续改进其技术,以提升所生成视频的质量。

研究人员表示:«未来,我们希望专注于预测电影中细微情绪(例如悲伤、厌恶、恐惧、喜悦)的方法。在这项工作中,由于缺乏带标签的领域内数据集,我们将正面/负面情绪作为情绪的替代。未来工作的方向包括针对电影的新情绪数据集,以及基于文本数据和视听线索的情绪检测模型》。