что-то я не понял третий агрумент. Разве Jupyter Notebook это не аналог rmarkdown?
а с этим методом работает x <- "^vsi.?[\\s]?svo[y]?i(.|\\d+)?$" writeLines(x)
что в JAVA_HOME записано?
вы же установили jdk?