效果图
实现方式:
工作流说明:
视频下载:通过上传url从网上下载视频
路径分支:下载后的视频分两个路径完成流转。
一个是视频转图片
一个是音频转文本
主要的节点类,如下图目录结构:
源码分析
音频转文本.py
import os
import torch
import whisper
import subprocess
import json
from datetime import timedelta
import time
import sys
class AudioTranscriber:
def __init__(self):
print("\n[初始化] 音频转文本节点被创建")
self.execution_count = 0
# 创建输出目录
self.output_dir = "transcribed_text"
os.makedirs(self.output_dir, exist_ok=True)
# 检查CUDA可用性
self.device = "cuda" if torch.cuda.is_available() else "cpu"
print(f"[初始化] 使用设备: {self.device}")
# 加载whisper模型
self.model = None
self.current_model_size = None
def save_text_file(self, text, video_name):
"""保存转录文本到文件"""
try:
# 生成文件名
timestamp = time.strftime("%Y%m%d_%H%M%S")
filename = os.path.join(self.output_dir, f"{video_name}_{timestamp}.txt")
# 使用UTF-8编码保存文件
with open(filename, 'w', encoding='utf-8') as f:
f.write(text)
print(f"[保存] 文本已保存至: {filename}")
return filename
except Exception as e:
print(f"[错误] 保存文件失败: {str(e)}")
raise ValueError(f"保存文件失败: {str(e)}")
@classmethod
def INPUT_TYPES(s):
return {
"required": {
"视频路径_音频": ("STRING", {"forceInput": True, "multiline": False}),
"模型大小": (["tiny", "base", "small", "medium", "large"], {
"default": "base"
}),
},
"optional": {
"语言": (["auto", "Chinese", "English", "Japanese", "Korean"], {
"default": "Chinese"
}),
"时间戳": ("BOOLEAN", {"default": True}),
}
}
RETURN_TYPES = ("STRING",)
RETURN_NAMES = ("文本文件路径",)
FUNCTION = "transcribe_audio"
CATEGORY = "视频转文章"
OUTPUT_NODE = True
def verify_video_file(self, video_path):
"""验证视频文件"""
if not video_path:
raise ValueError("视频路径为空")
if not os.path.exists(video_path):
raise ValueError(f"视频文件不存在: {video_path}")
if not os.path.isfile(video_path):
raise ValueError(f"不是文件: {video_path}")
try:
size = os.path.getsize(video_path)
print(f"[验证] 视频文件大小: {size} 字节")
with open(video_path, 'rb') as f:
print("[验证] 视频文件可访问")
except Exception as e:
raise ValueError(f"视频文件访问失败: {str(e)}")
def extract_audio(self, video_path):
"""从视频中提取音频"""
try:
# 生成音频文件名
video_name = os.path.splitext(os.path.basename(video_path))[0]
# timestamp = time.strftime("%Y%m%d_%H%M%S")
audio_path = os.path.join(self.output_dir, f"{video_name}.wav")
print(f"[音频] 输出路径: {audio_path}")
# 构建FFmpeg命令
command = [
'ffmpeg', '-i', video_path,
'-vn', # 不处理视频
'-acodec', 'pcm_s16le', # 设置音频编码
'-ar', '16000', # 设置采样率
'-ac', '1', # 设置为单声道
'-y', # 覆盖已存在的文件
audio_path
]
print("[音频] 执行FFmpeg命令...")
print(f"[音频] 命令: {' '.join(command)}")
# 修改subprocess调用,指定编码
startupinfo = None
if os.name == 'nt': # Windows系统
startupinfo = subprocess.STARTUPINFO()
startupinfo.dwFlags |= subprocess.STARTF_USESHOWWINDOW
# 执行命令
process = subprocess.Popen(
command,
stdout=subprocess.PIPE,
stderr=subprocess.PIPE,
startupinfo=startupinfo,
encoding='utf-8',
errors='replace' # 处理无法解码的字符
)
# 获取输出
stdout, stderr = process.communicate()
# 检查结果
if process.returncode == 0 and os.path.exists(audio_path):
size = os.path.getsize(audio_path)
print(f"[音频] 提取成功,大小: {size} 字节")
if stderr:
print(f"[警告] FFmpeg输出: {stderr}")
return audio_path
else:
print(f"[错误] FFmpeg返回码: {process.returncode}")
print(f"[错误] FFmpeg输出: {stderr}")
raise ValueError("音频提取失败")
except Exception as e:
print(f"[错误] 音频提取失败: {str(e)}")
print(f"[错误] 异常类型: {type(e)}")
print(f"[错误] 堆栈信息: ", sys.exc_info())
raise ValueError(f"音频提取失败: {str(e)}")
def load_model(self, model_size):
"""加载模型并处理设备选择"""
try:
print(f"[模型] 开始加载 {model_size} 模型...")
model = whisper.load_model(model_size)
# 如果有GPU,将模型移到GPU
if self.device == "cuda":
print("[模型] 将模型移至GPU")
model = model.to(self.device)
# 使用半精度以提高性能
if torch.cuda.is_available():
model = model.half()
else:
print("[模型] 在CPU上运行模型")
model = model.float() # 确保在CPU上使用FP32
print(f"[模型] 加载完成,使用设备: {self.device}")
return model
except Exception as e:
print(f"[错误] 模型加载失败: {str(e)}")
raise ValueError(f"模型加载失败: {str(e)}")
def transcribe_audio(self, 视频路径_音频, 模型大小, 语言="Chinese", 时间戳=True):
self.execution_count += 1
try:
print("\n========== 音频转文本开始 ==========")
print(f"[执行] 第 {self.execution_count} 次执行")
print(f"[时间] {time.strftime('%Y-%m-%d %H:%M:%S')}")
print(f"[设备] 使用 {self.device.upper()}")
# 验证输入
print("\n[输入参数]")
print(f"视频路径: {视频路径_音频}")
print(f"模型大小: {模型大小}")
print(f"语言: {语言}")
print(f"时间戳: {时间戳}")
if not 视频路径_音频:
raise ValueError("未接收到视频路径")
# 标准化路径
video_path = os.path.abspath(视频路径_音频)
print(f"[路径] 标准化后: {video_path}")
# 验证视频文件
print("\n[视频验证]")
self.verify_video_file(video_path)
# 提取音频
print("\n[音频提取]")
audio_path = self.extract_audio(video_path)
# 加载模型
print("\n[模型加载]")
if self.model is None or self.current_model_size != 模型大小:
self.model = self.load_model(模型大小)
self.current_model_size = 模型大小
else:
print("[模型] 使用已加载的模型")
# 转录音频
print("\n[转录]")
transcribe_options = {
"language": 语言 if 语言 != "auto" else None,
"task": "transcribe",
"fp16": torch.cuda.is_available() and self.device == "cuda"
}
# 添加性能监控
start_time = time.time()
result = self.model.transcribe(audio_path, **transcribe_options)
end_time = time.time()
print(f"[性能] 转录耗时: {end_time - start_time:.2f} 秒")
if self.device == "cuda":
print(f"[性能] GPU内存使用: {torch.cuda.max_memory_allocated() / 1024**2:.2f} MB")
# 处理结果
print("\n[处理结果]")
if 时间戳:
text_content = []
for segment in result["segments"]:
start = str(timedelta(seconds=round(segment["start"])))
end = str(timedelta(seconds=round(segment["end"])))
text_content.append(f"[{start} -> {end}] {segment['text']}")
text_content = "\n".join(text_content)
else:
text_content = result["text"]
# 保存文本到文件
video_name = os.path.splitext(os.path.basename(video_path))[0]
text_file_path = self.save_text_file(text_content, video_name)
print("\n[完成]")
print(f"音频文件: {audio_path}")
print(f"文本文件: {text_file_path}")
print("========== 音频转文本完成 ==========\n")
return (text_file_path,) # 返回文本文件路径
except Exception as e:
print("\n[异常信息]")
print(f"类型: {type(e)}")
print(f"描述: {str(e)}")
print("========== 音频转文本异常终止 ==========\n")
raise ValueError(f"音频转录失败: {str(e)}")
@classmethod
def IS_CHANGED(cls, 视频路径_音频, *args):
"""确保节点每次都执行"""
print(f"[IS_CHANGED] 输入: {视频路径_音频}")
import random
return random.random()
文本预览.py
# -*- coding: utf-8 -*-
import os
import sys
import time
import json
class TextPreview:
def __init__(self):
print("\n[初始化] 文本预览节点被创建")
print(f"[初始化] 时间: {time.strftime('%Y-%m-%d %H:%M:%S')}")
print(f"[初始化] 工作目录: {os.getcwd()}")
self.execution_count = 0
@classmethod
def INPUT_TYPES(s):
return {
"required": {
"文本文件路径": ("STRING", {"forceInput": True}),
},
"optional": {
"预览长度": ("INT", {
"default": 1000,
"min": 100,
"max": 5000,
"step": 500
}),
}
}
RETURN_TYPES = ()
FUNCTION = "preview_text"
CATEGORY = "视频转文章"
OUTPUT_NODE = True
def format_text(self, text, length):
"""格式化文本内容"""
try:
print(f"\n[格式化] 开始格式化文本")
print(f"[格式化] 原始文本长度: {len(text)}")
print(f"[格式化] 目标预览长度: {length}")
# 截取指定长度
preview = text[:length]
# 添加基本信息
info = [
"=== 文本预览 ===",
f"总字数: {len(text)}",
f"预览字数: {min(length, len(text))}",
f"文件: {os.path.basename(self.current_file)}",
"=" * 50,
preview,
"=" * 50
]
if len(text) > length:
info.append("(更多内容请查看原文件)")
formatted = "\n".join(info)
print(f"[格式化] 完成,格式化后长度: {len(formatted)}")
return formatted
except Exception as e:
print(f"[错误] 格式化失败: {str(e)}")
print(f"[错误] 异常类型: {type(e)}")
print(f"[错误] 堆栈信息: ", sys.exc_info())
return f"格式化失败: {str(e)}"
def preview_text(self, 文本文件路径, 预览长度=1000):
self.execution_count += 1
try:
print("\n========== 文本预览开始 ==========")
print(f"[执行] 第 {self.execution_count} 次执行")
print(f"[时间] {time.strftime('%Y-%m-%d %H:%M:%S')}")
print(f"[输入] 文件路径: {文本文件路径}")
print(f"[输入] 预览长度: {预览长度}")
# 验证文件
if not os.path.exists(文本文件路径):
raise ValueError(f"文件不存在: {文本文件路径}")
# 保存当前文件路径
self.current_file = 文本文件路径
print(f"[状态] 当前处理文件: {os.path.basename(self.current_file)}")
# 读取文件
print("[流程] 开始读取文件...")
with open(文本文件路径, 'r', encoding='utf-8') as f:
text = f.read()
file_size = os.path.getsize(文本文件路径)
print(f"[文件] 大小: {file_size} 字节")
print(f"[文件] 字符数: {len(text)}")
# 格式化文本
print("[流程] 开始格式化文本...")
formatted_text = self.format_text(text, 预览长度)
print("[流程] 格式化完成")
print("\n[预览输出]")
print("-" * 50)
print(formatted_text)
print("-" * 50)
print("========== 文本预览完成 ==========\n")
# 返回预览内容
return {
"ui": {
"value": formatted_text,
"type": "text",
"multiline": True,
"scroll": True,
"height": "500px"
}
}
except Exception as e:
error_msg = f"预览失败: {str(e)}"
print("\n[异常信息]")
print(f"[错误] 类型: {type(e)}")
print(f"[错误] 描述: {str(e)}")
print(f"[错误] 堆栈: ", sys.exc_info())
print("========== 文本预览异常终止 ==========\n")
return {
"ui": {
"value": error_msg,
"type": "text",
"multiline": True,
"color": "red"
}
}
@classmethod
def IS_CHANGED(cls, 文本文件路径, *args):
"""确保节点每次都执行"""
print(f"[IS_CHANGED] 被调用: {文本文件路径}")
import random
return random.random()
有不清楚的,在评论里留言,有时间我就会关注的。
分享我的bilibili视频:
【双色球自动采集发送到微信coze工作流使用教程】 https://www.bilibili.com/video/BV1YVqCYCEjV/?share_source=copy_web&vd_source=4f96fddc82e951a8caff5c703881b8da