(干货)Ai音箱和Linux音频驱动小谈

news/2024/2/28 0:40:03

一、音频基础

(1)采样率(samplerate)

采样就是把模拟信号数字化的过程,不仅仅是音频需要采样,所有的模拟信号都需要通过采样转换为可以用0101来表示的数字信号,示意图如下所示:

640?wx_fmt=png

蓝色代表模拟音频信号,红色的点代表采样得到的量化数值。采样频率越高,红色的间隔就越密集,记录这一段音频信号所用的数据量就越大,同时音频质量也就越高。

根据奈奎斯特理论,采样频率只要不低于音频信号最高频率的两倍,就可以无损失地还原原始的声音。

通常人耳能听到频率范围大约在20Hz~20kHz之间的声音,为了保证声音不失真,采样频率应在40kHz以上。常用的音频采样频率有:8kHz、11.025kHz、22.05kHz、16kHz、37.8kHz、44.1kHz、48kHz、96kHz、192kHz等。

(2)量化精度(位宽)

上图中,每一个红色的采样点,都需要用一个数值来表示大小,这个数值的数据类型大小可以是:4bit、8bit、16bit、32bit等等,位数越多,表示得就越精细,声音质量自然就越好,当然,数据量也会成倍增大。

常见的位宽是:8bit 或者 16bit

(3)声道数(channels)

由于音频的采集和播放是可以叠加的,因此,可以同时从多个音频源采集声音,并分别输出到不同的扬声器,故声道数一般表示声音录制时的音源数量或回放时相应的扬声器数量。单声道(Mono)和双声道(Stereo)比较常见,顾名思义,前者的声道数为1,后者为2

640?wx_fmt=png

二、Android Audio框架

Android用的是C/S的框架,就是一个client,一个service,中间是一个HAL作为统一的接口,HAL往下就会到tinyalsa,tinyalsa是alsa的裁剪版本,后面对应的就是驱动层了。

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

三、I2S接口介绍

I2S总线标准:I2S(Inter-IC Sound Bus)是飞利浦公司为数字音频设备之间的音频数据传输而制定的一种总线标准。在飞利浦公司的I2S标准中,既规定了硬件接口规范,也规定了数字音频数据的格式。I2S有3个主要信号:

串行时钟 SCLK:也叫做位时钟BCLK,即对应数字音频的每一位数据,SCLK的频率=2×采样频率×采样位数 ,现在问题来了,有人会问这些东西到底是什么意思呢?其实,I2S一般是传输立体声,有两个声道channel,采样频率指得是采样数率,多久去采集一个点,每个点是几个bit组成。

帧时钟LRCK:用于切换左右声道的数据,LRCK为“0”表示正在传输的是左声道的数据,为“1”表示正在传输的是右声道的数据。LRCLK == FS,就是采样频率

串行数据SDATA:就是用二进制补码表示的音频数据,有时为了使系统间能够更好的同步,还需要另外传输一个信号MCLK,称为主时钟,也叫系统时钟(System Clock),是采样频率的256或384倍

640?wx_fmt=png

I2S不同的标准介绍:I2S主要是针对ADC和主控,如果ADC设置的I2S标准和主控的不一致,那么录音肯定是要出问题的,正常使用的时候,会涉及1bit delay,大家在量I2S波形的时候也可以看出来

640?wx_fmt=png

640?wx_fmt=png

BCLK计算:BCLK = LRCLKxbitsxch,Ch 默认是2,我们现在用的是8ch的数据,但是我们用的是4个数据线,这时候计算的时候ch还是用2来计算

BCLK = 16K x 32bitsx2ch = 1.024M

        注意:我们在使用CX20810 ADC芯片的时候,CX20810现在是市面上做AI音响用的主流芯片,像叮咚叮咚就是用这个,里面介绍一个TDM 模式,这个也是一个I2S的标准,不过这个标准是一个DATA线传8ch的数据

640?wx_fmt=png

四、TINYALSA子系统

(1)代码介绍

目前linux中主流的音频体系结构是ALSA(Advanced Linux Sound Architecture),ALSA在内核驱动层提供了alsa-driver,在应用层提供了alsa-lib,应用程序只需要调用alsa-lib(libtinyalsa.so)提供的API就可以完成对底层硬件的操作。说的这么好,但是Android中没有使用标准的ALSA,而是一个ALSA的简化版叫做tinyalsa。Android中使用tinyalsa控制管理所有模式的音频通路,我们也可以使用tinyalsa提供的工具进行查看、调试。

tinycap.c 实现录音相关代码  tinycap

Tinyplay.c 实现放音相关代码 tinyplay

Pcm.c 与驱动层alsa-driver调用接口,为audio_hw提供api接口

Tinymix 查看和设置混音器 tinymix

Tinypcminfo.c 查看声卡信息tinypcminfo

(2)音频帧(frame)

这个概念在应用开发中非常重要,网上很多文章都没有专门介绍这个概念。

音频跟视频很不一样,视频每一帧就是一张图像,而从上面的正玄波可以看出,音频数据是流式的,本身没有明确的一帧帧的概念,在实际的应用中,为了音频算法处理/传输的方便,一般约定俗成取2.5ms~60ms为单位的数据量为一帧音频。

640?wx_fmt=png

这个时间被称之为“采样时间”,其长度没有特别的标准,它是根据编解码器和具体应用的需求来决定的,我们可以计算一下一帧音频帧的大小:

假设某音频信号是采样率为8kHz、双通道、位宽为16bit,20ms一帧,则一帧音频数据的大小为:

int size = 8000 x 2 x 16bit x 0.02s = 5120 bit = 640 byte

音频帧总结

period(周期):硬件中断间的间隔时间。它表示输入延时。

声卡接口中有一个指针来指示声卡硬件缓存区中当前的读写位置。只要接口在运行,这个指针将循环地指向缓存区中的某个位置。

frame size = sizeof(one sample) * nChannels

alsa中配置的缓存(buffer)和周期(size)大小在runtime中是以帧(frames)形式存储的。

period_bytes = pcm_format_to_bits 用来计算一个帧有多少bits,实际应用的时候经常用到

 下面有个老外的讲的音频帧,很多解释都是从这里翻译来的,大家自行体味一下

https://www.alsa-project.org/main/index.php/FramesPeriods

640?wx_fmt=png

 

640?wx_fmt=png

五、CODEC介绍

(1)专用术语

 ASLA - Advanced Sound Linux Architecture

 OSS - 以前的Linux音频体系结构,被ASLA取代并兼容

 Codec - Coder/Decoder

 I2S/PCM/AC97 - Codec与CPU间音频的通信协议/接口/总线

 DAI - Digital Audio Interface 其实就是I2S/PCM/AC97

 DAC - Digit to Analog Conversion

 ADC - Analog to Digit Conversion

 DSP - Digital Signal Processor

 Mixer - 混音器,将来自不同通道的几种音频模拟信号混合成一种模拟信号

 Mute - 消音,屏蔽信号通道

 PCM - Pulse Code Modulation 脉冲调制编码,一种从音频模拟信号转换成数字信号的技术,区别于PCM音频通信协议

 SSI - Serial Sound Interface

 DAPM - Dynamic Audio Power Management

(2)放音录音框图

640?wx_fmt=png

(3) OSS和ALSA比较

a.OSS的优点(对用户来说)

b.OSS的优点(对开发者来说)于使用。支持用户空间的声音驱动。

c.ALSA的优点

https://blog.csdn.net/longwang155069/article/details/53256751

d.调用接口

alsa是多了一个alsa-lib接口,但是OSS是直接操作设备文件的,这个差异还是很大的,不过幸运的是,alsa出来后为了兼容oss,也是做了一些修改。

640?wx_fmt=png

640?wx_fmt=png

(4)ASOC介绍

ASOC--ALSA System on Chip (即ALSA在片选系统上的应用),是建立在标准ALSA驱动层上,为了更好地支持嵌入式处理器和移动设备中的音频Codec的一套软件体系。在ASoc出现之前,内核对于SoC中的音频已经有部分的支持,不过会有一些局限性

Codec类:     Codec即编解码芯片的驱动,此Codec驱动是和平台无关,包含的功能有:  音频的控制接口,音频读写IO接口,以及DAPM的定义等。如果需要的话,此Codec类可以在BT,FM,MODEM模块中不做修改的使用。因此Codec就是一个可重复使用的模块,同一个Codec在不同的SOC中可以使用。对应ak7755.c

Platform类:  可以理解为某款SOC平台,平台驱动中包括音频DMA引擎驱动,数字接口驱动(I2S, AC97, PCM)以及该平台相关的任何音频DSP驱动。同样此Platform也可以重用,在不同的Machine中可以直接重复使用。

Machine类:  Machine可以理解为是一个桥梁,用于在Codec和Platform之间建立联系。此Machine指定了该机器使用那个Platform,那个Codec,最终会通过Machine建立两者之间的联系。

https://blog.csdn.net/longwang155069/article/details/53321464

https://wiki.archlinux.org/index.php/Advanced_Linux_Sound_Architecture_(%E7%AE%80%E4%BD%93%E4%B8%AD%E6%96%87)

https://www.linuxjournal.com/article/6735

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

六、音频相关调试技巧

    在调试录音和放音的时候,我们先使用tinyalsa的调试命令来进行调试,比如tinycap、tinyplay、tinypcminfo

Proc下的音频调试介绍:

https://alsa.opensrc.org/Proc_asound_documentation#The_.2Fproc.2Fasound.2Foss.2F_directory

(1)通过命令确认声卡是否注册成功

rk3399_mid:/ $ ls /proc/asound/                                            

card0 cards   hwdep rockchipak7755c timers  

card1 devices pcm   rockchipi2sdmic version 

$ ls /dev/snd/

640?wx_fmt=png

(2)xrun debug

   我们在调试音频的时候,难免会遇到underrun或者overrun,出现此两者情况时内核会打印log协助问题分析,Menuconfig中需要开启如下选项:

[*] Advanced Linux Sound Architecture --->

[*] Debug [*] More verbose debug

[*] Enable PCM ring buffer overrun/underrun debugging

然后在对应声卡/proc/asound/card0/xrun中写入相应的值,值如下:

#define XRUN_DEBUG_BASIC (1<<0)

#define XRUN_DEBUG_STACK (1<<1) /* dump also stack */

#define XRUN_DEBUG_JIFFIESCHECK (1<<2) /* do jiffies check */

比如 echo 1 > xrun或者echo 3 > xrun 或者 echo 7 > xrun

开启所有debug信息检测。

Xrun主要是读写速度不一致引起的音频录音播放异常,之前遇到一个这样的问题是因为DMA引起的,在注册声卡设备时会申请一个period_size,这个size是不能随意更改大小的,所以大家在写代码的时候要注意。

640?wx_fmt=png

七、AI智能音响核心点

这部分讲的没一点内容都是非常核心的,直接影响到AI音箱的整体效果,包括声源定位,回声消除,有很多人反馈为什么我的音箱声源定位不好,为什么我的回声消除效果很差,我们就要从下面几个问题点去排查

(1)、音频部分

1、做到有效采样16bits 32bits,(失真、截幅)、软件端对多通道数据可以编码

多通道数据采样同步,采样率同步,采样时钟同步,比如不能出现录音的时候出现失真情况。

2、录音的采样深度理论是越大是越好的,采样频率要跟算法部分确认好,讯飞要求的是16K的采样音频送给他们的算法

3、播放不能有失真,电声部分一定要通过严格的测试要求,整个扫频阶段都不能出现问题,比如不能出现播放高频的时候发现喇叭有低频的声音此类问题

(2)、结构部分

1、MIC开孔深度、孔径、构型符合标准;

2、内部音腔隔离,密封性能;

3、结构震动隔离;震音非常关键,测试的时候会发现,装上机构后的回声消除比没有结构时候差很多,大多是由于增加了结构,震音结构影响很大。

4、喇叭与MIC的距离,不能太近;

(3)、回声消除注意

作用:

抑制产品(喇叭)本身发出的声音,使得产品在播放音频时依然可以进行语音交互;

注意点:

1、需要接参考信号,信号采样需要符合要求;

 做到有效采样

 使用硬采集方案

 参考信号采样尽量与mic采集到的回声同步,至少不晚于回声;

2、结构方面需要特别注意;

 内部音腔隔离

 震动隔离

 喇叭与MIC的相对位置;

3、硬件选型方面需要注意;

4、整个采样系统中的延时要稳定;

 

彩蛋:

•ASR(automaticspeech recognition)把语音转换成文字,AI算法说的是自我学习算法,所以学习是一个非常复杂的过程,下面是一个链接,有开源的一些模型,感兴趣的可以自己拿去学习

https://github.com/kaldi-asr/kaldi

https://shiweipku.gitbooks.io/chinese-doc-of-kaldi/content/index.html

640?wx_fmt=png

添加极客助手微信,加入技术交流群

640?wx_fmt=png

640?wx_fmt=jpeg

长按,扫码,关注公众号


http://www.ppmy.cn/news/400251.html

相关文章

CEETRON如何赋能航空航天领域打造WEB CAE后处理系统?

CAE&#xff08;计算机辅助工程&#xff09;在航空航天领域具有广泛的应用&#xff0c;它在航空航天器的设计、性能评估和安全分析等方面开发坚持重要的作用。 本文主要探讨Ceetron集合CAE在航空航天领域中的应用价值&#xff0c;以及对CAE在航空航天领域应用的更详细描述&…

DELL 暗夜精灵无法进入BIOS系统

1. 【1】开始菜单-“设置”。 【2】单击“更新和安全”。 【3】单击右边列表项中的“恢复”。 【4】单击左侧的“立即重启”&#xff0c;这时电脑就会立即重启&#xff0c;所以单击前请保存好未保存文件。 【5】当电脑重启之后会进入如下界面&#xff0c;单击”疑难解答“。 …

惠普暗影精灵笔记本电脑 ubuntu系统如何截图

直接截取整个界面是按“FnPRT SC" 截取一定范围是“shiftfnprt sc"

2惠普暗影精灵恢复出厂设置

因为之前把电脑送去惠普售后店维修了&#xff08;寻找惠普官方售后店的方法&#xff1a;关注微信公众号惠普服务&#xff09;&#xff0c;拿回来的时候系统被店里的人重装了&#xff0c;不但C盘只剩下十几G的空间&#xff0c;而且多了阴魂不散的360全家桶。所以恢复了一下出厂设…

HP惠普暗影精灵6Pro_OMEN 15.6英寸Gaming Laptop15-ek1013TX(2Y3L6AV)原装出厂Windows11系统恢复原厂OEM系统

HP惠普暗影精灵6Pro_OMEN 15.6英寸Gaming Laptop15-ek1013TX(2Y3L6AV)原装出厂Windows11系统恢复原厂OEM系统 系统自带所有驱动、办公软件、OMEN等预装软件 所需要工具&#xff1a;32G或以上的U盘 文件格式:ISO 文件大小&#xff1a;16.15GB 链接&#xff1a;https://pan.b…

HP-OMEN-暗夜精灵8,安装WIN10

win11不熟悉&#xff0c;还是用win10&#xff0c;当然用win7更好&#xff0c;可惜硬件也不持支了。 这个笔记本电脑自带win11&#xff0c;当然是开机就来的那种&#xff0c;家庭版。 收到机器&#xff0c;直接使用老桃子&#xff0c;重新分区&#xff0c;安装win10。 这个机…

暗夜精灵怎么重装系统?

有用户跟小编反映自己的暗夜精灵电脑经常出现卡顿、蓝屏黑屏的情况&#xff0c;遇到这种情况可以通过重装系统的方法来修复。比较适合电脑小白的重装系统方法就是一键重装系统方法&#xff0c;下面小编就给大家演示一下暗夜精灵一键重装系统的方法。石大师系统重装最新版下载_石…

暗夜精灵5 i7-9750H 1660ti 如何开启键盘背光?

首先&#xff0c;需要 omen command center&#xff0c;微软应用商店里面安装就行了&#xff0c;只能在商店里安装。 这是软件界面&#xff1a; 在应用商店说明中有一部分文字说明&#xff1a; 按住omen键和小键盘上带有0/INS键&#xff0c;以及F4 按一次是全亮&#xff0c;按…

关于惠普暗夜精灵win键失效问题【解决方案】

解决办法&#xff1a; &#xff08;1&#xff09;点开系统自带的 OMEN 软件&#xff08;这软件是真的坑&#xff01;&#xff01;&#xff01;&#xff09; &#xff08;2&#xff09;点击“优化器” &#xff08;3&#xff09;点击“游戏增强”——>“恢复”——>取消“…

HP 暗夜精灵2 pro 拆机加内存

1.掀开后盖.这款电脑后盖上有很多卡槽,不要蛮力一起掀开,从边缘一点点的打开,绕一周.但是后盖中间也有卡槽,注意一下. 2.打开后盖后就比较简单了,把内存上上去就行了. 3. . 4.打开CPU-Z,检查内存是不是真货

暗夜精灵5安装Manjaro 18.1.0 Juhraya

0.前提 暗夜精灵5 &#xff08;i7-9750H/ 16G RAM /NVIDIA 1660Ti/ 512G SSD&#xff09; Manjaro 18.1.0 Juhraya&#xff08;之前的版本我测试过&#xff0c;会卡在TTL之类的地方&#xff0c;网络上几乎所有的方法我都试过了&#xff0c;全部无效&#xff09; 1.安装 1.1…

ubuntu系统安装完显卡驱动出现黑屏和登录死循环的解决方法(新增惠普暗夜精灵7-3070显卡解决方法)

ubuntu系统三种安装显卡驱动的方式 1. 第一种下载驱动程序安装 下载链接NVIDIA 驱动程序下载 说明:根据自己电脑显卡的型号&#xff0c;下载相匹配的显卡驱动 2. 通过软件和更新界面安装 系统设置->软件更新->附加驱动->选择nvidia最新驱动->应用更改。在“软…

惠普暗夜精灵4双系统ubuntu18.04+CUDA10.1+cudnn+pytorch+tensorflow+ros

安装ubuntu18.04&#xff1a; 本机器型号安装ubuntu没有什么疑难杂症,跟着网上大佬的教程&#xff0c;下载镜像文件&#xff0c;做启动盘安装即可。 分区方案&#xff1a; efi 2G swap 16G / 500G 启动引导选择efi的那个分区 有独显的记得进入编辑启动项 在quite splash 后加 …

【从零开始玩量化20】BigQuant平台策略代码本地化(与Github同步)

引言 最近发现了个不错的量化平台&#xff0c;BigQuant BigQuant的客服找到我&#xff0c;推荐他们平台给我使用&#xff0c;宣传的是人工智能&#xff0c;里面可以使用类似ChatGPT的聊天机器人&#xff0c;和可视化拖拉拽功能实现策略。 不过&#xff0c;这些都是锦上添花的…

OMEN惠普HP暗夜精灵5:win10下安装Ubuntu16.04双系统(win10+linux)

笔记本电脑为&#xff1a;OMEN5 15.6英寸 i5-9300H 24G 512SSD1T GTX1660Ti&#xff08;自己加装了内存条和机械硬盘&#xff09; 一、准备工作 1.下载并安装软碟通&#xff1a;百度搜索免费下载UltraISO软碟通官方中文版 2.安装&#xff0c;使用软碟通 3.ubuntu官网下载ios…

惠普暗夜精灵7和联想拯救者R9000P2021有什么区别 哪个好详细性能配置对比

联想拯救者R9000P 2021款 Ryzen 7 5800H处理器&#xff0c;主频3.2GB&#xff0c;睿频4.4GHz&#xff0c;八核心/十六线程&#xff0c;性能表现要好强些 选惠普暗夜精灵7还是联想拯救者R9000P2021这些点很重要看过你就懂了http://www.adiannao.cn/dy 2.5K分辨率16:10显示比例16…

信息系统项目管理师-项目人力资源管理

********年2月&#xff0c;我作为项目经理参与了某集团公司********项目建设&#xff0c;整个项目总投资300余万元&#xff0c;建设工期为10个月。某集团力图通过********&#xff08;简称SPMS项目&#xff09;的建设&#xff0c;实现所有子公司的软件研发过程规范化管理&#…

IKEA EDI项目开源介绍

近期为了帮助广大用户更好地使用 EDI 系统&#xff0c;我们根据以往的项目实施经验&#xff0c;将成熟的 EDI 项目进行开源。用户安装好知行之桥EDI系统之后&#xff0c;只需要下载我们整理好的示例代码&#xff0c;并放置在知行之桥指定的工作区中&#xff0c;即可开始使用。 …

OpenText Exceed TurboX(ETX)—— 适用于 UNIX、Linux 和 Windows 的远程桌面解决方案

由于新技术的采用&#xff0c;以及商业全球化和全球协作的现实&#xff0c;几乎所有企业&#xff08;无论其规模和所处行业&#xff09;的员工的工作方式、时间和地点都发生了重大变化。业务领导者正在推动其 IT 部门提出解决方案&#xff0c;以帮助其远程员工提高工作效率&…

【业务功能篇26】 ROW_NUMBER() 排名函数 给表单数据增加序列号

业务场景&#xff1a; 当业务在进行月报报表制作时&#xff0c;会有些模块是需要填充当前月的top问题单&#xff0c;那么这些问题单&#xff0c;在第一列就要给标记序列号从1开始的序号&#xff0c;所以这个序号是根据业务选择的问题单后&#xff0c;在根据当前问题单记录进行的…
最新文章