Golang流媒体实战之七:hls拉流服务源码阅读

news/2024/4/24 21:19:01/

欢迎访问我的GitHub

这里分类和汇总了欣宸的全部原创(含配套源码):https://github.com/zq2599/blog_demos

本篇概览

  • 本文是《Golang流媒体实战》系列的第七篇,继续学习一个重要且通用的知识点:hls拉流
  • 在《体验开源项目lal》一文中,咱们先是用rtmp协议推流,然后就行了拉流操作,尽管只用rtmp推流,然而拉流的时候却可以使用多种协议:rtmp、flv、hls,这就有意思了,想必lal在处理推流数据时有特殊处理吧,所以才能用各种协议来拉流
  • 为了弄明白其中原因,本篇咱们就来阅读hls相关源码,看看rtmp推流时为hls做了什么,以及hls拉流时lal的详细逻辑
  • 关于hls和m3u8的细节,就在本篇展开了,这个仅给出一些关键信息作为参考
  • 参考资料:https://developer.ridgerun.com/wiki/index.php/HLS
  • m3u8格式
    在这里插入图片描述

《Golang流媒体实战》系列的链接

  1. 体验开源项目lal
  2. 回源
  3. 转推和录制
  4. lalserver的启动源码阅读
  5. Golang流媒体实战之五:lal推流服务源码阅读
  6. Golang流媒体实战之六:lal拉流服务源码阅读
  7. Golang流媒体实战之七:hls拉流服务源码阅读](https://xinchen.blog.csdn.net/article/details/130165581)

推流,初始阶段

  • 首先看推流处理,关于rtmp推流的源码,其实已在 《Golang流媒体实战之五:lal推流服务源码阅读》有详细分析,所以这里就不从头说起了,只挑出hls有关代码来看
  • 处理推流时,publish命令由server_session.go#doPublish方法负责处理,调用栈如下
server_session.go#doCommandMessage
->
doPublish
->
server.go#OnNewRtmpPubSession
->
server_manager__.go#OnNewRtmpPubSession
->
group__in.go#AddRtmpPubSession
->
addIn
  • 注意这个addIn方法中有下面这么一段代码
group.rtmp2MpegtsRemuxer = remux.NewRtmp2MpegtsRemuxer(group)
  • 也就是说,推流阶段,该流对应的group对象,其成员变量rtmp2MpegtsRemuxer是有值的,看名字,这个rtmp2MpegtsRemuxer变量负责的是将rtmp协议内的数据转为mpeg格式的时间分片文件
  • 记住这个group.rtmp2MpegtsRemuxer,稍后马上就会用到

推流,处理媒体数据阶段

  • 在《Golang流媒体实战之五:lal推流服务源码阅读》一文中咱们已经看过,lal收到媒体数据后,具体的处理逻辑是group__core_streaming.go#broadcastByRtmpMsg方法,里面有这么一段
	// # mpegts remuxerif group.rtmp2MpegtsRemuxer != nil {group.rtmp2MpegtsRemuxer.FeedRtmpMessage(msg)}
  • 展开上述FeedRtmpMessage方法的堆栈有点深,这里简化一下
rtmp2mpegts.go#FeedRtmpMessage
->
rtmp2mpegts_filter_.go#Push
->
rtmp2mpegts.go#onPop
->
feedVideo (这段代码比较复杂,值得细看)
->
onFrame
->
muxer.go#OnTsPackets
->
FeedMpegts
->
fragment.go#WriteFile
  • 上面这复杂的调用栈,重点是rtmp2mpegts_filter_.go的逻辑,先从入口Push方法看起,此方法的功能是从消息中取得音频和视频的codecID,用于确定ts文件所需的pat表和pmt表的内容
func (q *rtmp2MpegtsFilter) Push(msg base.RtmpMsg) {// q.done是个标志,一旦等于true,今后收到的消息都直接给观察者,// 但是等于true之前,收到的消息都放在切片中缓存起来,// 如果从消息中成功取得音频和视频的codecID,就在drain方法中把标准设置为trueif q.done {q.observer.onPop(msg)return}// 将数据缓存到q.dataq.data = append(q.data, msg.Clone())// 如果是音频消息或者视频消息,就可以得到对应的codecIDswitch msg.Header.MsgTypeId {case base.RtmpTypeIdAudio:q.audioCodecId = int(msg.Payload[0] >> 4)case base.RtmpTypeIdVideo:q.videoCodecId = int(msg.Payload[0] & 0xF)}// 一旦音频和视频的codecID都搜集到了,就执行drain,if q.videoCodecId != -1 && q.audioCodecId != -1 {q.drain()return}// 缓存存不下的时候也会执行drainif len(q.data) >= q.maxMsgSize {q.drain()return}
}func (q *rtmp2MpegtsFilter) drain() {// 根据当前视频的codecId,确定ts文件的PAT,PMT格式switch q.videoCodecId {case int(base.RtmpCodecIdAvc):q.observer.onPatPmt(mpegts.FixedFragmentHeader)case int(base.RtmpCodecIdHevc):q.observer.onPatPmt(mpegts.FixedFragmentHeaderHevc)default:// TODO(chef) 正确处理只有音频或只有视频的情况 #56q.observer.onPatPmt(mpegts.FixedFragmentHeader)}// 将缓存的所有消息输出给观察者for i := range q.data {q.observer.onPop(q.data[i])}q.data = nilq.done = true
}
  • 从上述代码可见,随着根据CodecId的不同,pat、pmt包也有差别,具体定义在mpegts.go中,
    在这里插入图片描述

  • 上面的onPatPmt方法,对应的是lal/pkg/logic/group__core_streaming.go#OnPatPmt,展开看看,主要是group.hlsMuxer.FeedPatPmt方法被执行了,也就是PAT和PMT被存入group.hlsMuxer对象,至于后面的group.recordMpegts.Write,那个和录制有关,这里暂不关注

func (group *Group) OnPatPmt(b []byte) {group.patpmt = bif group.hlsMuxer != nil {group.hlsMuxer.FeedPatPmt(b)}if group.recordMpegts != nil {if err := group.recordMpegts.Write(b); err != nil {Log.Errorf("[%s] record mpegts write fragment header error. err=%+v", group.UniqueKey, err)}}
}
  • 回到主线,一旦PAT和PMT确定后,rtmp2MpegtsFilter的作用就非常单纯了:每当新消息到来,只调用观察者的onPop方法
func (s *Rtmp2MpegtsRemuxer) onPop(msg base.RtmpMsg) {switch msg.Header.MsgTypeId {case base.RtmpTypeIdAudio:s.feedAudio(msg)case base.RtmpTypeIdVideo:s.feedVideo(msg)}
}
  • 上述代码中的feedVideo方法,代码太长就不贴出了,主要功能是:先做合法性检查,再从一个消息中取出多个nalu逐个处理,主要是在关键帧前面放入SPS(Sequence Parameter Set)、PPS(Picture Parameter Sets),待这些都准备好之后就能组装好frame对象,然后调用rtmp2mpegts.go#onFrame
  • onFrame的作用:先调用frame.Pack方法做格式转换,得到ts格式的数据,再调用观察者的OnTsPackets方法
func (s *Rtmp2MpegtsRemuxer) onFrame(frame *mpegts.Frame) {s.adjustDtsPts(frame)//Log.Debugf("Rtmp2MpegtsRemuxer::onFrame, frame=%s", frame.DebugString())var boundary boolif frame.Sid == mpegts.StreamIdAudio {// 为了考虑没有视频的情况也能切片,所以这里判断spspps为空时,也建议生成fragmentboundary = !s.videoSeqHeaderCached()} else {// 收到视频,可能触发建立fragment的条件是:// 关键帧数据 &&// (//  (没有收到过音频seq header) || 说明 只有视频//  (收到过音频seq header && fragment没有打开) || 说明 音视频都有,且都已ready//  (收到过音频seq header && fragment已经打开 && 音频缓存数据不为空) 说明 为什么音频缓存需不为空?// )boundary = frame.Key && (!s.audioSeqHeaderCached() || !s.opened || !s.audioCacheEmpty())}if boundary {s.opened = true}packets := frame.Pack()s.observer.OnTsPackets(packets, frame, boundary)
}

更新切片文件,将音视频数据写入切片文件

  • 接下来进入本篇的核心代码:生成新切片文件,关闭旧切片文件,将音视频数据写入新切片文件
  • OnTsPackets对应的是muxer.go#FeedMpegts:先用updateFragment方法执行关闭旧切片开启新切片的操作,再调用WriteFile把数据写入当前切片
func (m *Muxer) FeedMpegts(tsPackets []byte, frame *mpegts.Frame, boundary bool) {//Log.Debugf("> FeedMpegts. boundary=%v, frame=%p, sid=%d", boundary, frame, frame.Sid)if frame.Sid == mpegts.StreamIdAudio {// TODO(chef): 为什么音频用pts,视频用dtsif err := m.updateFragment(frame.Pts, boundary, frame); err != nil {Log.Errorf("[%s] update fragment error. err=%+v", m.UniqueKey, err)return}if !m.opened {Log.Warnf("[%s] FeedMpegts A not opened. boundary=%t", m.UniqueKey, boundary)return}//Log.Debugf("[%s] WriteFrame A. dts=%d, len=%d", m.UniqueKey, frame.DTS, len(frame.Raw))} else {if err := m.updateFragment(frame.Dts, boundary, frame); err != nil {Log.Errorf("[%s] update fragment error. err=%+v", m.UniqueKey, err)return}if !m.opened {// 走到这,可能是第一个包并且boundary为falseLog.Warnf("[%s] FeedMpegts V not opened. boundary=%t, key=%t", m.UniqueKey, boundary, frame.Key)return}//Log.Debugf("[%s] WriteFrame V. dts=%d, len=%d", m.UniqueKey, frame.Dts, len(frame.Raw))}if err := m.fragment.WriteFile(tsPackets); err != nil {Log.Errorf("[%s] fragment write error. err=%+v", m.UniqueKey, err)return}
}
  • 展开updateFragment去探寻核心代码,如下可见,一旦判定有必要启用新文件,就先调用closeFragment将当前TS文件关闭掉,再调用openFragment新建一个TS文件,判定条件有两个:当前TS文件存储内容是否超过一定长度,以及是否到达边界(boundary入参,如果是新的关键帧,此标志可能为true)
func (m *Muxer) updateFragment(ts uint64, boundary bool, frame *mpegts.Frame) error {discont := true// 如果已经有TS切片,检查是否需要强制开启新的切片,以及切片是否发生跳跃// 注意,音频和视频是在一起检查的if m.opened {f := m.getCurrFrag()// 以下情况,强制开启新的分片:// 1. 当前时间戳 - 当前分片的初始时间戳 > 配置中单个ts分片时长的10倍//    原因可能是://        1. 当前包的时间戳发生了大的跳跃//        2. 一直没有I帧导致没有合适的时间重新切片,堆积的包达到阈值// 2. 往回跳跃超过了阈值//maxfraglen := uint64(m.config.FragmentDurationMs * 90 * 10)if (ts > m.fragTs && ts-m.fragTs > maxfraglen) || (m.fragTs > ts && m.fragTs-ts > negMaxfraglen) {Log.Warnf("[%s] force fragment split. fragTs=%d, ts=%d, frame=%s", m.UniqueKey, m.fragTs, ts, frame.DebugString())if err := m.closeFragment(false); err != nil {return err}if err := m.openFragment(ts, true); err != nil {return err}}// 更新当前分片的时间长度//// TODO chef:// f.duration(也即写入m3u8中记录分片时间长度)的做法我觉得有问题// 此处用最新收到的数据更新f.duration// 但是假设fragment翻滚,数据可能是写入下一个分片中// 是否就导致了f.duration和实际分片时间长度不一致if ts > m.fragTs {duration := float64(ts-m.fragTs) / 90000if duration > f.duration {f.duration = duration}}discont = false// 已经有TS切片,切片时长没有达到设置的阈值,则不开启新的切片if f.duration < float64(m.config.FragmentDurationMs)/1000 {return nil}}// 开启新的fragment// 此时的情况是,上层认为是合适的开启分片的时机(比如是I帧),并且// 1. 当前是第一个分片// 2. 当前不是第一个分片,但是上一个分片已经达到配置时长if boundary {if err := m.closeFragment(false); err != nil {return err}if err := m.openFragment(ts, discont); err != nil {return err}}return nil
}
  • 在closeFragment的代码中,还有个重要操作:调用writePlaylist方法生成m3u8文件
func (m *Muxer) writePlaylist(isLast bool) {// 找出时长最长的fragmentmaxFrag := float64(m.config.FragmentDurationMs) / 1000m.iterateFragsInPlaylist(func(frag *fragmentInfo) {if frag.duration > maxFrag {maxFrag = frag.duration + 0.5}})// TODO chef 优化这块buffer的构造var buf bytes.Bufferbuf.WriteString("#EXTM3U\n")buf.WriteString("#EXT-X-VERSION:3\n")buf.WriteString("#EXT-X-ALLOW-CACHE:NO\n")buf.WriteString(fmt.Sprintf("#EXT-X-TARGETDURATION:%d\n", int(maxFrag)))buf.WriteString(fmt.Sprintf("#EXT-X-MEDIA-SEQUENCE:%d\n\n", m.extXMediaSeq()))m.iterateFragsInPlaylist(func(frag *fragmentInfo) {if frag.discont {buf.WriteString("#EXT-X-DISCONTINUITY\n")}buf.WriteString(fmt.Sprintf("#EXTINF:%.3f,\n%s\n", frag.duration, frag.filename))})if isLast {buf.WriteString("#EXT-X-ENDLIST\n")}if err := writeM3u8File(buf.Bytes(), m.playlistFilename, m.playlistFilenameBak); err != nil {Log.Errorf("[%s] write live m3u8 file error. err=%+v", m.UniqueKey, err)}
}
  • 还有个比较重要的地方,就是openFragment方法,里面是打开一个新的TS文件的操作:生成TS文件名,将准备好的PAT和PMT信息写入文件,调用观察者的回调接口
func (m *Muxer) openFragment(ts uint64, discont bool) error {if m.opened {return nazaerrors.Wrap(base.ErrHls)}id := m.getFragmentId()filename := PathStrategy.GetTsFileName(m.streamName, id, int(Clock.Now().UnixNano()/1e6))filenameWithPath := PathStrategy.GetTsFileNameWithPath(m.outPath, filename)if err := m.fragment.OpenFile(filenameWithPath); err != nil {return err}if err := m.fragment.WriteFile(m.patpmt); err != nil {return err}m.opened = truefrag := m.getCurrFrag()frag.discont = discontfrag.id = idfrag.filename = filenamefrag.duration = 0m.fragTs = ts// nrm said: start fragment with audio to make iPhone happym.observer.OnFragmentOpen()m.observer.OnHlsMakeTs(base.HlsMakeTsInfo{Event:          "open",StreamName:     m.streamName,Cwd:            base.GetWd(),TsFile:         filenameWithPath,LiveM3u8File:   m.playlistFilename,RecordM3u8File: m.recordPlayListFilename,Id:             id,Duration:       frag.duration,})return nil
}
  • TS文件名的生成逻辑很简单,用流名+时间戳+TS序号拼接
func (*DefaultPathStrategy) GetTsFileName(streamName string, index int, timestamp int) string {return fmt.Sprintf("%s-%d-%d.ts", streamName, timestamp, index)
}
  • 至此,生成逻辑的代码算是看过了,接下来要看播放逻辑

拉流播放

  • 要响应客户端的拉流请求,首先要准备好server服务,咱们就从server初始化看起
  • hls的server对象,是main方法中创建的,调用栈如下:
main()
->
logic.go#NewLalServer
->
server_manager__.go#NewServerManager
->
hls/server_handler.go#NewServerHandler
  • 上述代码创建了hlsServerHandler对象,存入sm.hlsServerHandler,接下来就是server_manager__.go#RunLoop启动hls服务,代码如下
	if err := addMux(sm.config.HlsConfig.CommonHttpServerConfig, sm.serveHls, "hls"); err != nil {return err}
  • 也就是说,下面这个方法负责响应hls请求
func (sm *ServerManager) serveHls(writer http.ResponseWriter, req *http.Request) {urlCtx, err := base.ParseUrl(base.ParseHttpRequest(req), 80)if err != nil {Log.Errorf("parse url. err=%+v", err)return}if urlCtx.GetFileType() == "m3u8" {// TODO(chef): [refactor] 需要整理,这里使用 hls.PathStrategy 不太好 202207streamName := hls.PathStrategy.GetRequestInfo(urlCtx, sm.config.HlsConfig.OutPath).StreamNameif err = sm.option.Authentication.OnHls(streamName, urlCtx.RawQuery); err != nil {Log.Errorf("simple auth failed. err=%+v", err)return}}sm.hlsServerHandler.ServeHTTP(writer, req)
}
  • 对于hls的请求,处理逻辑的调用链
server_handler.go#ServeHTTP
->
ServeHTTPWithUrlCtx
  • 响应hls请求的关键是ServeHTTPWithUrlCtx,来看它的关键代码,其实很简单,就是根据请求到达文件名找到文件,读取内容并返回,注意代码注解中有详细说明
	// 根据请求信息生成读取TS或者M3U8文件的关键参数,例如流名和文件路径ri := PathStrategy.GetRequestInfo(urlCtx, s.outPath)//Log.Debugf("%+v", ri)// 合法性检查if filename == "" || (filetype != "m3u8" && filetype != "ts") || ri.StreamName == "" || ri.FileNameWithPath == "" {err = errors.New(fmt.Sprintf("invalid hls request. url=%+v, request=%+v", urlCtx, ri))Log.Warnf(err.Error())resp.WriteHeader(http.StatusFound)return}// 抽象过的读取文件操作,放入二进制切片,// 具体的读取操作有两种:从磁盘读取或者从内存读取,这取决于配置的是写入磁盘还是内存content, _err := ReadFile(ri.FileNameWithPath)if _err != nil {err = errors.New(fmt.Sprintf("read hls file failed. request=%+v, err=%+v", ri, _err))Log.Warnf(err.Error())resp.WriteHeader(http.StatusNotFound)return}// 根据文件类型不同,设置不同的响应headerswitch filetype {case "m3u8":resp.Header().Add("Content-Type", "application/x-mpegurl")resp.Header().Add("Server", base.LalHlsM3u8Server)// 给ts文件都携带上session_id字段if sessionIdHash != "" {content = bytes.ReplaceAll(content, []byte(".ts"), []byte(".ts?session_id="+sessionIdHash))}case "ts":resp.Header().Add("Content-Type", "video/mp2t")resp.Header().Add("Server", base.LalHlsTsServer)}resp.Header().Add("Cache-Control", "no-cache")resp.Header().Add("Access-Control-Allow-Origin", "*")if sessionIdHash != "" {session := s.getSubSession(sessionIdHash)if session != nil {session.AddWroteBytesSum(uint64(len(content)))}}// 响应_, _ = resp.Write(content)return
  • 至此,hls拉流服务的源码阅读已经完成,简单来说,就是一路RTMP的推流会在处理每个音视频消息的时候,实时生成m3u8文件,以及多个TS文件,这样每当hls拉流请求到达时,就可以根据指定的文件名返回已经生成的内容了
  • 简单清晰的逻辑,满满的知识点Get,再一次感谢lal的作者先生

你不孤单,欣宸原创一路相伴

  1. Java系列
  2. Spring系列
  3. Docker系列
  4. kubernetes系列
  5. 数据库+中间件系列
  6. DevOps系列

http://www.ppmy.cn/news/46906.html

相关文章

【大数据基础】基于 TMDB 数据集的电影数据分析

https://dblab.xmu.edu.cn/blog/2400/ 实验内容 环境搭建 pip3 install bottle数据预处理 本次项目使用的数据集来自知名数据网站 Kaggle 的 tmdb-movie-metadata 电影数据集&#xff0c;该数据集包含大约 5000 部电影的相关数据。本次实验使用数据集中有关电影的数据表 tm…

公司新来一00后说我不会自动化测试,3个问题直接给他问趴下...

今天我们公司刚入职一小伙&#xff0c;听说是00后&#xff0c;今天在办公室交流了一下&#xff0c;他问我会不会自动化测试&#xff0c;我直呼好家伙&#xff0c;直接问了他3个开展自动化测试问题....一问3不知.....还有待加强呀 我们在制定自动化测试实施策略时&#xff0c;首…

哪个洗脱一体机好用?好用的洗拖一体机推荐

洗地机是一款使用非常方便的清洁工具&#xff0c;通常可以实现吸、拖、洗三个功能&#xff0c;对于各类家庭污渍都有着不错的处理能力&#xff0c;无论是干燥垃圾还是潮湿垃圾一律可以有效清理。不过很多新手朋友在选购洗地机时会因为看不懂参数而频繁踩雷。本文为大家整理了洗…

【hello Linux】理解文件系统

目录 创建文件的过程&#xff1a; 删除文件的过程&#xff1a; 创建目录的过程&#xff1a; 查看inode编号&#xff1a; 硬链接 软链接 Linux&#x1f337; 我们知道文件所有数据 文件内容 文件属性信息&#xff1b; 未打开的文件是被存放到磁盘/固态硬盘中的&#xff1b; …

Allegro thermal relief热风焊盘

为了画个通孔焊盘&#xff0c;看了很久的 Thermal relief相关的内容&#xff0c;终于基本上理解了。记录一下。 这篇文章讲得非常清楚&#xff1a; 深入理解Allegro之Thermal Relief与Anti Pad - 百度文库 (baidu.com) 热风焊盘般用在内层&#xff0c;减少一些焊盘和铜皮的连…

Leetcode究极刷题笔记(31~35)

&#xff08;31&#xff09;下一个排列&#xff08;中等&#xff09; 实现思路&#xff1a; 从题目中&#xff0c;我们可以看出本题的意思就是让你选一个比当前序列大的最小的那个解&#xff0c;比如132&#xff0c;哪么比它大的最小解就是213&#xff08;先从第一位开始比&am…

Js实现滚动变色的文字效果

<html> <head> <meta http-equiv"Content-Type" content"text/html; charsetutf-8" /> <title>滚动变色的文字js特效</title> </head> <body> <div style"width:736px;"> 请注意下方的文…

环境变量详解

目录 环境变量是什么&#xff1f; 常见环境变量 查看环境变量 指令查看 代码查看 系统调用查看 本地变量 环境变量全局性 环境变量是什么&#xff1f; 我们要执行一个我们所写的c/c程序时&#xff0c;需要./可执行文件&#xff0c;告诉操作系统你在哪里&#xff0c…

魔兽世界私服架设教程—魔兽大服务器合并列表

都说魔兽世界是最经典的网游&#xff0c;可惜我沉迷于程序的世界&#xff0c; 用以下命令down源码 git clone git://github.com/mangos/mangos.git 编译的时候会出错&#xff0c;找不到以下两个文件 revision.h SystemConfig.h 其实以上文件只是简单的定义同个编译的宏而…

数据库网络编程

数据库网络编程是一个重要的领域&#xff0c;它涉及到如何使用编程语言与数据库进行交互&#xff0c;以及如何设计和实现网络应用程序。在这篇文章中&#xff0c;我将探讨数据库网络编程的基础知识、常用技术和实践经验&#xff0c;以及一些应用案例和未来发展趋势。 一、基础…

PEIS源码,体检管理系统源码,C#医院体检系统源码

PEIS体检管理系统源码&#xff0c;医院体检系统源码PEIS源码&#xff0c;商业级源码&#xff0c;有演示。 PEIS医院体检管理系统采用C/S结构&#xff0c;前台开发工具为Vs2012&#xff0c;后台数据库采用oracle大型数据库。核心功能有&#xff1a;体检档案的录入、体检报告的输…

Web 开发会话技术之 -Cookie介绍以及源码分析和图分析以及Cookie的生命周期--路径--中文乱码的分析和代码示例

目录 Web 开发会话技术之 -Cookie 会话 基本介绍 1. 什么是会话&#xff1f; 2. 会话过程中要解决的一些问题&#xff1f; cookie 技术 cookie 介绍 二说 cookie cookie 可以用来做啥 cookie 基本使用 cookie 常用方法 cookie 底层实现机制-创建和读取 Cookie Crea…

【hello C++】内存管理

目录 前言&#xff1a; 1. C/C内存分布 2. C语言动态内存管理方式 3. C内存管理方式 3.1 new / delete 操作内置类型 3.2 new和delete操作自定义类型 4. operator new与operator delete函数 4.1 operator new与operator delete函数 5. new和delete的实现原理 5.1 内置类型 5.2…

顺序表的实现

思维导图&#xff1a; 一&#xff0c;顺序表 一&#xff0c;顺序表的创建&#xff08;位置&#xff1a;头文件内&#xff09; 1.1顺序表的结构体类型 要求&#xff1a;创建顺序表并使这个顺序表能够存放数据&#xff0c;能记录有效数据的个数&#xff0c;能够记录容量大小。…

python3 DataFrame一些好玩且高效的操作

pandas在处理Excel/DBs中读取出来&#xff0c;处理为DataFrame格式的数据时&#xff0c;处理方式和性能上有很大差异&#xff0c;下面是一些高效&#xff0c;方便处理数据的方法。 map/apply/applymaptransformagg遍历求和/求平均shift/diff透视表切片&#xff0c;索引&#x…

查询数据库空间(mysql和oracle)

Mysql版 1、查看所有数据库容量大小 -- 查看所有数据库容量大小 SELECTtable_schema AS 数据库,sum( table_rows ) AS 记录数,sum(TRUNCATE ( data_length / 1024 / 1024, 2 )) AS 数据容量(MB),sum(TRUNCATE ( index_length / 1024 / 1024, 2 )) AS 索引容量(MB) FROMinfor…

如何识别来自 ChatGPT 的文本输出

既然 ChatGPT 生成的内容需要和人类生成的内容有明确的区分&#xff0c;那如果我们拿到一个几经转手的、缺失标记的内容片段&#xff0c;有没有办法来判断他的作者&#xff0c;到底属于 ChatGPT&#xff0c;还是属于人类呢&#xff1f; openai 公司&#xff0c;为此主动推出了…

python中__init__.py文件

例子 不要使用相对路径。 __init__.py# from net.functions import * VERSION "1.0.0"import os, sys module_path os.path.dirname(__file__) module_parent_path os.path.dirname(module_path) sys.path.extend([module_path, module_parent_path]) from net i…

Matlab进阶绘图第17期—气泡热图

气泡热图是一种特殊的热图&#xff08;Heatmap&#xff09;。 与传统热图相比&#xff0c;气泡热图利用不同颜色、不同大小的圆形表示数据的大小&#xff0c;可以更加直观地对矩阵数据进行可视化表达。 本文使用自制的bubbleheatmap小工具进行气泡热图的绘制&#xff0c;先来…

赋值法写基础解系中解向量

赋值法写基础解系中解向量 &#xff08;一&#xff09;背景引入 通常解方程组时&#xff0c;将系数矩阵化为行阶梯型&#xff0c;进而可化为行最简型 &#xff08;说一嘴&#xff1a;行最简型是指阶梯口元素全是1&#xff0c;该1所在列全其余全为0&#xff1b;广义行阶梯的阶梯…