Zhipu AI steigt in die Videogenerierung ein: „Qingying' ist online, 6 Sekunden lang, kostenlos und unbegrenzt

PHPz
Freigeben: 2024-07-26 15:35:51
Original
765 Leute haben es durchsucht

Das große Modellteam von Zhipu ist selbst entwickelt und gebaut.


Da Kuaishou Keling AI im In- und Ausland populär geworden ist, wird die inländische Videogenerierung ebenso wie das Textmodell im Jahr 2023 immer beliebter.

Gerade wurde die offizielle Markteinführung eines weiteren großen Modellprodukts der Videogeneration angekündigt: Zhipu AI hat „Qingying“ offiziell veröffentlicht. Solange Sie eine gute Idee (ein paar Wörter bis ein paar hundert Wörter) und ein wenig Geduld (30 Sekunden) haben, kann „Qingying“ ein hochpräzises Video mit einer Auflösung von 1440 x 960 erstellen. Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt
Ab sofort startet Qingying die Qingyan-App, und alle Benutzer können die Funktionen von Dialog, Bildern, Videos, Codes und Agentengenerierung vollständig nutzen. Neben der Abdeckung des Webs und der App von Zhipu Qingyan können Sie auch das „AI Dynamic Photo Mini-Programm“ nutzen, um schnell dynamische Effekte für Fotos auf Ihrem Telefon zu erzielen.
Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt
Das von Zhipu „Qingying“ erstellte Video ist 6 Sekunden lang und hat eine Auflösung von 1440×960. Alle Benutzer können es kostenlos nutzen.
Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt
  • PC-Zugriffslink: https://chatglm.cn/
  • Mobiler Zugriffslink: https://chatglm.cn/download?fr=web_home

智Pu AI sagte, dass mit der kontinuierlichen Weiterentwicklung der Technologie die Generierungsfähigkeiten von „Qingying“ bald bei der Produktion von Kurzvideos, bei der Werbeerstellung und sogar bei der Filmbearbeitung zum Einsatz kommen werden.

Bei der Entwicklung generativer KI-Videomodelle spielt das Skalierungsgesetz sowohl bei Algorithmen als auch bei Daten weiterhin eine Rolle. „Wir erforschen aktiv effizientere Skalierungsmethoden auf Modellebene.“ Beim Zhipu Open Day sagte Zhang Peng, CEO von Zhipu AI: „Mit der kontinuierlichen Iteration von Algorithmen und Daten glaube ich, dass das Skalierungsgesetz weiterhin eine Rolle spielen wird.“ starke Rolle , Science-Fiction, Geisteswissenschaften und Geschichte sowie andere Arten von Videoinhalten werden besser generiert

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

Zu den Videostilen, die sich gut generieren lassen, gehören Cartoon-Stil, echter Fotografie-Stil, zweidimensionaler Animationsstil usw.; Präsentationseffekt des Entitätstyps Aussehen, Tiere > Pflanzen > Gegenstände > Gebäude > Menschen.

Es können Videos mit Text oder Bildern generiert werden, und der generierte Stil deckt den Fantasy-Animationsstil ab.

    Vincent Video
  • Eindringliche Worte: Drücken Sie in einem niedrigen Winkel nach oben, heben Sie langsam Ihren Kopf, plötzlich erscheint ein Drache auf dem Eisberg, und dann entdeckt der Drache Sie und stürmt auf Sie zu. Hollywood-Filmstil.
  • Eindringliches Wort: Ein Magier spricht einen Zauber in den Wellen. Der Edelstein sammelt das Meerwasser und öffnet ein magisches Portal.

Promptes Wort: Der Pilz verwandelt sich in einen Bären.

Reale Szene:
Eindringliche Worte: In einem Wald blockieren aus menschlicher Sicht die hoch aufragenden Bäume die Sonne, und etwas Sonnenlicht scheint durch die Lücken in den Blättern, Tyndall-Effekt.

Eindringliches Wort: Ein Wassermeerschweinchen steht wie ein Mensch da, hält Eis in der Hand und isst es glücklich. Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

图生视频

除了文本生成视频,也可以到清影上玩图片生成视频。图生视频带来了更多的新玩法,包括表情包梗图、广告制作、剧情创作、短视频创作等。同时,基于清影的「老照片动起来」小程序也会同步上线,只需一步上传老照片,AI 就能让凝练在旧时光中的照片灵动起来。

提示词:一条自由移动的七彩鱼。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

提示词:图中男子站起来,风吹着他的头发。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

提示词:小黄鸭玩具漂浮在游泳池的水面,特写。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

再到现代艺术:

提示词:摄像机围绕着一大堆老式电视旋转,这些电视播放着不同的节目 ——20 世纪 50 年代的科幻电影、恐怖电影、新闻、静态、70 年代的情景喜剧等,背景设在纽约博物馆的一个大型画廊里。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

提示词:掏出一个苹果手机拍照。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

无提示词。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

你常用的表情包,智谱 AI 能把它延长成「连续剧」。

提示词:师徒四人伸出手互相击掌,脸上是困惑的表情。Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt提示词:小猫张大了嘴,脸上是困惑表情,很多问号。 Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt
可以看出,清影各类风格都可以拿捏,还有更多的玩法等待人们来发掘。只需要在智谱清言 PC/APP 上,点击「清影智能体」功能,就可以让你的每一个创意在瞬间化为现实。

全自研技术

All in 大模型的智谱 AI,很早就开始部署多模态生成式 AI 模型。从 2021 年开始,智谱 AI 先后发布了 CogView(NeurIPS’21)、 CogView2(NeurIPS’22)、CogVideo(ICLR’23)、Relay Diffusion(ICLR’24)、CogView3 (2024)等多项研究。

据介绍,「清影」依托于智谱 AI 大模型团队自研打造的新一代视频生成大模型 CogVideoX。

去年 11 月,其团队基于文生图模型 CogView2 打造出了文本到视频生成模型 CogVideo,并随后将其开源。

Zhipu AI steigt in die Videogenerierung ein: „Qingying ist online, 6 Sekunden lang, kostenlos und unbegrenzt

CogVideo 拥有 94 亿参数,它通过 CogView2 生成一系列初始帧,基于双向注意力模型对图像进行插帧的方法实现视频生成。此外,CogVideo 根据文本描述生成 3D 环境,可直接利用预训练模型,避免了昂贵的训练,它也支持中文的 Prompt 输入。

本次清影底座的视频生成模型是CogVideoX,它能将文本、时间、空间三个维度融合起来,参考了Sora 的算法设计,它也是一个DiT 架构,通过优化,CogVideoX 相比前代(CogVideo)推理速度提升了6 倍。

OpenAI 的 Sora 横空出世,让 AI 在视频生成方面取得了显着进展,但大多数模型在生成具有连贯性和逻辑一致性的视频内容方面仍然存在困难。

为了解决这些问题,智谱AI 自研了一个高效的三维变分自编码器结构(3D VAE),可以将原视频空间极致压缩到2%,使得模型训练成本大幅下降,训练难度也大大降低。

模型结构采用因果三维卷积(Causal 3D convolution)为主要模型组件,并将自编码器中常用的注意力模块移除,使得模型具备不同分辨率迁移使用的能力。

同时,在时间维度上因果卷积使得模型视频编解码具备从前向后的序列独立性, 这有助于通过微调将模型扩展到更高帧率和更长时间的场景。

除此以外,视频生成还面临这样一个问题,即视频数据大多缺乏对应的描述性文本或者描述质量低下,为此智谱AI 自研了一个端到端的视频理解模型,用于为海量的视频数据生成详细的、贴合内容的描述,进而构建海量的高质量视频文本对,使得训练出的模型指令遵循度高。
 
最后值得一提的是,智谱AI 自研了一个将文本、时间、空间融合起来的transformer 架构,该架构没有采用传统cross attention 模块,而是在输入阶段就将文本嵌入和视频嵌入连接起来,以便更充分地进行两种模态的交互。

然而文本和视频特征空间存在很大差异,智谱 AI 通过 expert adaptive layernorm 对两者分别进行处理,使得模型能够高效利用参数来更好地将视觉信息与语义信息对齐。

智谱 AI 表示,通过优化技术,智谱 AI 生成式视频模型的推理速度提升了 6 倍。目前生成 6s 视频,模型花费的理论时间是 30 秒钟。

如今随着「清影」的上线,视频生成赛道又出现了智谱 AI 这位重磅玩家。

除了人人都能尝试的应用之外,清影API 也同步上线大模型开放平台bigmodel.cn,企业和开发者可以通过调用API 的方式,体验和使用文生视频以及图生视频的模型能力。
 
随着各家公司 AI 视频生成功能的不断上线,今年的生成式 AI 竞赛已经进入白热化阶段。对于大多数用户来说,选择也更多了:现在,无论是完全没有视频制作基础的人,还是专业的内容创作者,都能借助大模型能力实现视频创作。

Das obige ist der detaillierte Inhalt vonZhipu AI steigt in die Videogenerierung ein: „Qingying' ist online, 6 Sekunden lang, kostenlos und unbegrenzt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Verwandte Etiketten:
Quelle:jiqizhixin.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage