如何查找未存储在.GlobalEnv中的重物?

如何解决如何查找未存储在.GlobalEnv中的重物?

我试图在我的R会话中查找哪些对象占用大量内存,但是问题是该对象可能是在未知环境中以不知名的名称无形地创建的。

如果对象存储在.GlobalEnv或已知环境中,我可以轻松地使用诸如ls(enviro)+get()+object.size()之类的策略(例如,参见this post上的lsos)来列出所有对象物体及其大小,使我能够识别较重的物体。

但是,有问题的对象可能不会存储在.GlobalEnv中,而是可能在由外部包隐式创建的某些晦涩的环境中。在那种情况下,如何确定哪个对象正在使用大量RAM?

最好的案例研究是ggplot2在专用环境中创建.last_plot。深入了解一下,可以发现它存储在environment(ggplot2:::.store$get)中,因此可以找到它并最终将其删除。但是,如果我不知道该位置或先验名称,是否有办法发现内存中某处有一个名为.last_plot的重物?

pryr::mem_used()
#> 34.7 MB

## example: implicit creation of heavy and hidden object by ggplot
path <- tempfile() 
if(!file.exists(path)){
  saveRDS(as.data.frame(matrix(rep(1,1e07),ncol=5)),path)
}

pryr::mem_used()
#> 34.9 MB
p1 <- ggplot2::ggplot(readr::read_rds(path),ggplot2::aes(V1))
rm(p1)
pryr::mem_used()
#> 127 MB

## Hidden object is not in .GlobalEnv
ls(.GlobalEnv,all.names = TRUE)
#> [1] "path"

## Here I know where to find it: environment(ggplot2:::.store$get)
ls(all.names = TRUE,envir = environment(ggplot2:::.store$get))
#> [1] ".last_plot"

pryr::object_size(get(".last_plot",environment(ggplot2:::.store$get))$data)
#> 80 MB

## But how could I have found this otherwise?

reprex package(v0.3.0)于2020-11-03创建

解决方法

我认为没有任何现有的方法可以做到这一点。如果您将@AllanCameron的答案与我的评论相结合,那么您还将在ls(y)环境下运行y

ns <- loadedNamespaces()
for (x in ns) {
   y <- loadNamespace(x)
   # look at the size of everything in y
}

您仍然找不到所有环境。我认为,如果您还检查了每个可能包含对环境的引用的对象(例如,每个函数,公式,列表和各种奇异对象),都可以这样做,但是不要错过某些东西会很棘手或多次计数。

编辑后添加:实际上,pryr::object_size在报告对象所连接的环境方面非常聪明,因此我们可以通过搜索名称空间来达成目标。例如,要查找前20个对象:

pryr::mem_used()
#> Registered S3 method overwritten by 'pryr':
#>   method      from
#>   print.bytes Rcpp
#> 35 MB
path <- tempfile() 
if(!file.exists(path)){
  saveRDS(as.data.frame(matrix(rep(1,1e07),ncol=5)),path)
}
pryr::mem_used()
#> 35.2 MB
p1 <- ggplot2::ggplot(readr::read_rds(path),ggplot2::aes(V1))
rm(p1)
pryr::mem_used()
#> 127 MB
envs <- c(globalenv = globalenv(),sapply(loadedNamespaces(),function(ns) loadNamespace(ns)))
sizes <- lapply(envs,function(e) {
                        objs <- ls(e,all = TRUE)
                        sapply(objs,function(obj) pryr::object_size(get(obj,envir = e)))
                })
head(sort(unlist(sizes),decreasing = TRUE),20)
#>       base..__S3MethodsTable__.      utils..__S3MethodsTable__. 
#>                        96216872                        83443704 
#>       grid..__S3MethodsTable__.    ggplot2..__S3MethodsTable__. 
#>                        80945520                        80636768 
#>                  ggplot2..store             methods..classTable 
#>                        80418936                        10101152 
#>   graphics..__S3MethodsTable__.           tools..check_packages 
#>                         9325608                         5185880 
#>         compiler.inlineHandlers           methods..genericTable 
#>                         3444600                         2808440 
#>         Rcpp..__T__show:methods   colorspace..__T__show:methods 
#>                         2474672                         2447880 
#>                 Rcpp..RcppClass Rcpp..__C__C++OverloadedMethods 
#>                         2127584                         1990504 
#>            Rcpp..__C__RcppClass             Rcpp..__C__C++Field 
#>                         1982576                         1980176 
#>       Rcpp..__C__C++Constructor               Rcpp..__T__$:base 
#>                         1979992                         1939616 
#>         tools..install_packages               Rcpp..__C__Module 
#>                         1904032                         1899872

reprex package(v0.3.0)于2020-11-03创建

我不知道为什么这些方法表会这么大(我怀疑是因为ggplot2向这些表添加了方法,所以它的环境被捕获了);但是它们以某种方式找到了您的对象,因为如果我不创建它们,它们就不会很大。

关于此问题的提示在第5个对象中,列为ggplot2..store (即.store名称空间中名为ggplot2的对象)。不会告诉您查看.store中函数的环境,但是至少可以帮助您入门。

第二次修改:

这里有一些调整,以使输出更具可读性。

# Unlist first,so we can clean up the names
sizes <- unlist(sizes)

# Replace the first dot with :::
names(sizes) <- sub(".",":::",names(sizes),fixed = TRUE)

# Remove internal R objects
keep <- !grepl(".__",fixed = TRUE)
sizes <- sizes[keep]

进行了这些更改后,sort(sizes[keep],decreasing = TRUE)的输出开始为

                ggplot2:::.store 
                        80418936 
            base:::.userHooksEnv 
                        47855920 
                 base:::.Options 
                        45016888 
                   utils:::Rprof 
                        44958416 
,

如果愿意

unlist(lapply(search(),function(y) sapply(ls(y),function(x) object.size(get(x)))))

您将获得搜索路径上所有环境中所有对象的完整列表,包括它们的大小。然后,您可以对它们进行排序并找到有问题的对象。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


依赖报错 idea导入项目后依赖报错,解决方案:https://blog.csdn.net/weixin_42420249/article/details/81191861 依赖版本报错:更换其他版本 无法下载依赖可参考:https://blog.csdn.net/weixin_42628809/a
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下 2021-12-03 13:33:33.927 ERROR 7228 [ main] o.s.b.d.LoggingFailureAnalysisReporter : *************************** APPL
错误1:gradle项目控制台输出为乱码 # 解决方案:https://blog.csdn.net/weixin_43501566/article/details/112482302 # 在gradle-wrapper.properties 添加以下内容 org.gradle.jvmargs=-Df
错误还原:在查询的过程中,传入的workType为0时,该条件不起作用 &lt;select id=&quot;xxx&quot;&gt; SELECT di.id, di.name, di.work_type, di.updated... &lt;where&gt; &lt;if test=&qu
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct redisServer’没有名为‘server_cpulist’的成员 redisSetCpuAffinity(server.server_cpulist); ^ server.c: 在函数‘hasActiveC
解决方案1 1、改项目中.idea/workspace.xml配置文件,增加dynamic.classpath参数 2、搜索PropertiesComponent,添加如下 &lt;property name=&quot;dynamic.classpath&quot; value=&quot;tru
删除根组件app.vue中的默认代码后报错:Module Error (from ./node_modules/eslint-loader/index.js): 解决方案:关闭ESlint代码检测,在项目根目录创建vue.config.js,在文件中添加 module.exports = { lin
查看spark默认的python版本 [root@master day27]# pyspark /home/software/spark-2.3.4-bin-hadoop2.7/conf/spark-env.sh: line 2: /usr/local/hadoop/bin/hadoop: No s
使用本地python环境可以成功执行 import pandas as pd import matplotlib.pyplot as plt # 设置字体 plt.rcParams[&#39;font.sans-serif&#39;] = [&#39;SimHei&#39;] # 能正确显示负号 p
错误1:Request method ‘DELETE‘ not supported 错误还原:controller层有一个接口,访问该接口时报错:Request method ‘DELETE‘ not supported 错误原因:没有接收到前端传入的参数,修改为如下 参考 错误2:cannot r
错误1:启动docker镜像时报错:Error response from daemon: driver failed programming external connectivity on endpoint quirky_allen 解决方法:重启docker -&gt; systemctl r
错误1:private field ‘xxx‘ is never assigned 按Altʾnter快捷键,选择第2项 参考:https://blog.csdn.net/shi_hong_fei_hei/article/details/88814070 错误2:启动时报错,不能找到主启动类 #
报错如下,通过源不能下载,最后警告pip需升级版本 Requirement already satisfied: pip in c:\users\ychen\appdata\local\programs\python\python310\lib\site-packages (22.0.4) Coll
错误1:maven打包报错 错误还原:使用maven打包项目时报错如下 [ERROR] Failed to execute goal org.apache.maven.plugins:maven-resources-plugin:3.2.0:resources (default-resources)
错误1:服务调用时报错 服务消费者模块assess通过openFeign调用服务提供者模块hires 如下为服务提供者模块hires的控制层接口 @RestController @RequestMapping(&quot;/hires&quot;) public class FeignControl
错误1:运行项目后报如下错误 解决方案 报错2:Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.1:compile (default-compile) on project sb 解决方案:在pom.
参考 错误原因 过滤器或拦截器在生效时,redisTemplate还没有注入 解决方案:在注入容器时就生效 @Component //项目运行时就注入Spring容器 public class RedisBean { @Resource private RedisTemplate&lt;String
使用vite构建项目报错 C:\Users\ychen\work&gt;npm init @vitejs/app @vitejs/create-app is deprecated, use npm init vite instead C:\Users\ychen\AppData\Local\npm-