story-to-handdrawn-video:开源免费AI视频生成工具|将中文故事转换为手绘漫画

在 AI 视频生成工具越来越多的今天,很多产品都在追求“生成更真实的视频”“制作更复杂的特效”,但对于内容创作者来说,有时候真正需要的并不是电影级画面,而是一种更适合表达故事、记录情绪、传递知识的视觉形式。

例如:

  • 一个短篇故事想制作成动画;
  • 一篇文章想转换成视频内容;
  • 一本绘本想变成动态展示;
  • 一组手绘图片想制作成翻页动画。

这些需求看似简单,但实际制作过程中往往需要经历脚本拆分、画面设计、动画制作、字幕添加、视频合成等多个步骤,对于普通用户来说门槛并不低。

而今天 软件格律诗 介绍的开源项目 story-to-handdrawn-video 可以将中文故事文案,或者一组按照顺序排列的手绘图片,转换为 3:4 竖屏手绘日记漫画动画,并自动完成文字字幕、黑白画稿、彩色插画之间的动态揭示效果,同时支持翻页式转场和安全构图处理。

story-to-handdrawn-video 基于 Remotion 构建,默认输出无配音、无音乐的 H.264 视频画面轨,方便用户后续自行添加配音和背景音乐,是一套面向创作者的“故事 → 手绘动画”自动生产流程。

story-to-handdrawn-video 是什么?

story-to-handdrawn-video 让不会动画制作的人,也能够通过故事文本快速生成具有手绘风格的视频内容。

项目支持两种主要输入方式:

第一种:

中文故事文本 → 手绘漫画动画

用户提供一段故事内容,工具会自动进行:

  • 中文故事分句;
  • 动态分镜规划;
  • 图片生成;
  • 动画渲染;
  • 字幕展示。

第二种:

已有手绘图片 → 手绘动画视频

用户上传按照顺序排列的图片,工具会保留原始顺序和构图,并将静态图片转换成具有动画效果的视频。

项目 README 中明确说明,它可以将“中文故事文案或一组有序的手绘图片”转换为 3:4 竖屏手绘日记漫画动画,并支持手写体字幕以及“文字 → 黑白画稿 → 彩色插画”的动态揭示效果。

为什么 story-to-handdrawn-video 值得关注?

目前市面上的 AI 视频工具大多关注“生成视频”,但故事类内容制作还有一个特殊需求:

那就是保持叙事感。一段故事真正吸引人的地方,不一定是复杂镜头,而是:

  • 文字节奏;
  • 画面变化;
  • 情绪推进;
  • 视觉风格统一。

传统动画制作需要大量人工参与:编写分镜;绘制素材;调整动画;制作字幕。

而 story-to-handdrawn-video 尝试把这些步骤自动化。

它更接近一种“故事可视化工具”。

例如:

一个作者写了一篇旅行故事,可以转换成手绘旅行日记;

一个教育工作者写了一段知识内容,可以生成漫画教学视频;

一个创作者制作短视频脚本,可以快速形成视觉化作品。

对于内容生产者来说,这种工具最大的价值不是替代专业动画师,而是降低创意表达门槛。

主要功能特点

中文故事自动分句与动态分镜

用户输入故事文本后,工具会根据内容进行分句,并生成对应的视频节奏。

项目支持:

  • 中文故事自动分句;
  • 动态分镜;
  • 保留原文措辞。

相比直接将文字转换成视频,这种方式更加符合故事表达逻辑。

因为视频并不是简单播放文字,而需要考虑:什么时候出现文字;什么时候展示画面;什么时候切换场景。通过分镜方式,将文本内容拆解成适合动画展示的结构。

手绘漫画风格动画效果

项目最大的视觉特点,是模拟手绘日记漫画效果,它设计了一套动态揭示流程:

文字 → 黑白画稿 → 彩色插画

也就是说,画面会从文字描述开始,逐渐出现黑白线稿,最后展开为完整彩色插画。

这种表现形式非常适合:

  • 故事分享;
  • 情感内容;
  • 绘本展示;
  • 知识传播。

这种视觉方式相比普通 AI 视频,更接近手账、漫画和绘本风格。

自动拆分文字区域与插画区域

对于上传图片模式,story-to-handdrawn-video 可以自动处理页面布局。这对于已有漫画页面、绘本图片或者手绘作品来说非常方便。用户不需要重新制作动画素材,只需要提供图片即可。

它支持:

  • 自动拆分上方文字区;
  • 自动拆分下方插画区;
  • 保持图片顺序和构图。

黑白画稿生成

手绘动画中,一个重要效果就是“绘制过程”,可以根据彩色插画生成对应黑白层。

项目支持:

本地生成与彩色插画对齐的黑白层。

这样可以实现类似:

先出现线稿;

然后逐渐上色;

最终形成完整作品。

翻页动画效果

除了普通展示模式,项目还提供可选的右下角卷页翻书转场。

这个效果会保留:

  • 原页面纹理;
  • 翻页动作;
  • 手绘书籍感。

该功能会保留淡化后的原页纹理,实现右下角卷页翻书效果。

对于制作:

绘本视频;

故事合集;

儿童内容;

个人作品展示;

这种效果会增强整体质感。

多尺寸视频输出

story-to-handdrawn-video 针对不同需求提供两种输出尺寸:

正式渲染:

1080 × 1440

快速预览:

720 × 960

比例为 3:4 竖屏格式,更适合:

  • 移动端观看;
  • 社交媒体发布;
  • 短视频平台展示。

同时最终输出采用 H.264 编码,并且默认生成静音视频轨。

安装教程

环境要求

运行项目需要:

  • Node.js 20 或更高版本;
  • Python 3.10 或更高版本;
  • FFmpeg;
  • npm;
  • Google Chrome 或 Remotion 管理的兼容浏览器;
  • 支持 Skill 的 Agent 环境。

支持的 Agent 包括:

  • Codex;
  • Claude Code;
  • Kimi Code。

第一步:下载项目

执行:

git clone https://github.com/gnipbao/story-to-handdrawn-video.git

cd story-to-handdrawn-video

npm ci

然后运行:

npm run check

进行 TypeScript 检查和分镜结构校验。

第二步:安装 Skill

如果使用 Codex:

cp -R skill-package/story-to-handdrawn-video ~/.codex/skills/

如果使用 Claude Code:

cp -R skill-package/story-to-handdrawn-video ~/.claude/skills/

如果使用 Kimi Code:

cp -R skill-package/story-to-handdrawn-video ~/.agents/skills/

第三步:配置项目路径

如果 Agent 不在项目目录运行,需要设置:

export STORY_VIDEO_PROJECT=/absolute/path/to/story-to-handdrawn-video

使用教程

方法一:文字生成手绘动画

准备一段故事:

例如:

“夏天的下午,小明坐在窗边,看着天空中的云朵……”

然后输入:

使用 $story-to-handdrawn-video 把这段故事生成可后期配音的手绘动画。

<你的故事内容>

工具会自动完成:

  • 故事拆分;
  • 分镜;
  • 图片生成;
  • 视频渲染。

方法二:图片生成动画

如果已有手绘图片:

使用 $story-to-handdrawn-video 把这几张图片按顺序生成手绘动画:

/absolute/01.jpg
/absolute/02.jpg
/absolute/03.jpg

适合已有漫画素材的用户。

方法三:生成翻书动画

输入:

使用 $story-to-handdrawn-video 把这些图片做成翻书效果的手绘动画:

即可生成卷页效果。

方法四:先生成预览

如果担心正式渲染耗时,可以:

使用 $story-to-handdrawn-video 先给这个故事生成一个预览版。

先查看效果,再进行正式输出。

输出文件说明

项目默认输出:

输入模式输出
故事文本正式out/picture_silent.mp4
故事文本预览out/picture_silent-preview.mp4
上传图片正式out/uploaded_picture_silent.mp4
上传图片预览out/uploaded_picture_silent-preview.mp4

我的使用感受

这个项目明显更偏向内容创作。

它关注:

故事如何拆分;

画面如何出现;

字幕如何呈现;

动画如何保持统一风格。

对于喜欢制作故事类视频的人来说,这种方向更加实用。

尤其是“文字 → 黑白画稿 → 彩色插画”的展示方式,很适合打造有个人风格的视频内容。

当然,它也有一定门槛。

首先,需要配置 Node.js、Python、FFmpeg 等开发环境。

其次,项目依赖 Agent Skill 工作流,对于不了解 AI Agent 的普通用户来说,需要一定学习成本。

但对于开发者、AI 内容创作者或者希望建立自动化视频生产流程的人来说,这种设计非常值得研究。

story-to-handdrawn-video 适合哪些用户?

内容创作者

适合制作:

  • 故事视频;
  • 知识内容;
  • 手绘风短视频。

AI 视频探索者

希望研究:

  • Agent 自动化;
  • AI 图片生成;
  • 视频渲染流程。

插画作者

已有作品,希望转换成动态展示。

开发者

希望基于 Remotion 构建 AI 视频项目。

常见问题 FAQ

story-to-handdrawn-video 是免费的吗?

项目采用 MIT 开源协议。

它可以生成声音吗?

默认不会。

项目输出的是静音 H.264 视频轨,配音和背景音乐需要后期添加。

支持哪些图片输入?

支持按照顺序提供的手绘图片,并保持原始顺序和构图。

支持 OpenAI API 吗?

支持显式选择 OpenAI API 工作流。

默认使用 Codex Image2 工作流,如果使用 OpenAI API,需要配置:

OPENAI_API_KEY

总结

story-to-handdrawn-video 是一个非常有特色的开源项目。

把故事和手绘作品转换成具有漫画感的动态视频。

通过 Remotion 渲染框架、Agent Skill 工作流以及自动化分镜设计,它将原本复杂的视频制作流程进行了重新组合。

对于普通用户来说,它可能不是打开即用的消费级软件;但对于 AI 创作者、开发者以及希望探索自动化内容生产的人来说,它提供了一套非常值得研究的实现方案。

在未来,AI 视频的发展方向或许不仅是生成更逼真的画面,也可能是让更多普通人能够把自己的文字、想法和故事快速变成作品。

官方网站

https://github.com/gnipbao/story-to-handdrawn-video

相关推荐

JameCling
JameCling

我是 格律诗的软件世界 的作者,一名专注于软件工具、AI 技术和数字效率领域的独立研究者。
多年来,我持续关注互联网工具的发展趋势,体验不同平台的软件产品,并研究它们如何帮助用户提升效率。
我的工作不仅是整理软件信息,而是通过实际测试、功能分析和使用场景研究,帮助用户判断一个工具是否真正值得使用。
格律诗的软件世界 的每一篇文章都希望提供真实、有价值的信息,包括工具特点、使用方法、优缺点分析以及适合的人群。
我相信,好的工具能够改变工作方式,而准确的信息能够帮助用户做出更好的选择。