解决Google Colab 读取Google Drive(云盘) 文件速度慢
问题描述
使用colab的时候,当需要从云盘中读取(图片)数据时,相比于本地磁盘读取,速度非常慢。
猜测可能是文件数量过多时,请求和获取数据占据了很多时间。
解决方法
方法一(个人推荐)
上传文件到云盘时只需要上传文件的压缩包,然后在colab notebook 里进行解压使用。这样不仅节省了文件上传时间,而且在colab notebook上直接解压速度也非常快。代码如下:
import zipfilewith zipfile.ZipFile("需要读取的文件在云盘中位置", 'r') as zip_ref:zip_ref.extractall("/content/") # 我使用的解压位置
方法二
把云盘中需要的文件,直接复制到运行时的环境里。这个复制过程会take some time,我感觉没有第一个方法快捷,方便。
import shutil
# # 把olddir拷贝一份newdir
shutil.copytree('需要读取的文件在云盘中位置', 'HCII23_Figcon')
解决问题了的话,欢迎点赞,关注,评论。
解决Google Colab 读取Google Drive(云盘) 文件速度慢
问题描述
使用colab的时候,当需要从云盘中读取(图片)数据时,相比于本地磁盘读取,速度非常慢。
猜测可能是文件数量过多时,请求和获取数据占据了很多时间。
解决方法
方法一(个人推荐)
上传文件到云盘时只需要上传文件的压缩包,然后在colab notebook 里进行解压使用。这样不仅节省了文件上传时间,而且在colab notebook上直接解压速度也非常快。代码如下:
import zipfilewith zipfile.ZipFile("需要读取的文件在云盘中位置", 'r') as zip_ref:zip_ref.extractall("/content/") # 我使用的解压位置
方法二
把云盘中需要的文件,直接复制到运行时的环境里。这个复制过程会take some time,我感觉没有第一个方法快捷,方便。
import shutil
# # 把olddir拷贝一份newdir
shutil.copytree('需要读取的文件在云盘中位置', 'HCII23_Figcon')
解决问题了的话,欢迎点赞,关注,评论。