2014-11-05 40 views
5

编辑2:已解决!请参阅下面有关正确导入的答案from lib.bs4 import BeautifulSoup而不仅仅是from bs4 import BeautifulSoup使用BeautifulSoup的Appengine上的Python ImportError:没有名为bs4的模块

编辑:把bs4放在项目的根目录似乎可以解决问题;然而,它不是一个理想的结构。所以,我正在离开这个问题,尝试并获得更强大的解决方案。

过去曾提出过这个问题的一个变种,但那里的解决方案似乎并不奏效。说实话,我不确定这是因为BeautifulSoup还是Appengine的变化。

见:Python 2.7 : How to use BeautifulSoup in Google App Engine?How to include third party Python libraries in Google App Engine?,和Which version of BeautifulSoup works with GAE (python 2.5)?

通过Lipis提出的解决方案似乎是添加第三方库的项目,然后添加以下到主应用程序的根目录的libs文件夹:

import sys 
sys.path.insert(0, 'libs') 

目前,我的结构是这样的:

ntj-test 
├── lib 
│ └── bs4 
├── templates 
├── main.py 
├── get_data.py 
└── app.yaml 

这里是我的app.yaml:

application: ntj-test 
version: 1 
runtime: python27 
api_version: 1 
threadsafe: yes 

handlers: 
- url: /favicon\.ico 
    static_files: favicon.ico 
    upload: favicon\.ico 

- url: .* 
    script: main.app 

libraries: 
- name: webapp2 
    version: latest 
- name: jinja2 
    version: latest 

这里是我的main.py:

import webapp2 
import jinja2 
import get_data 
import sys 

sys.path.insert(0, 'lib') 

JINJA_ENVIRONMENT = jinja2.Environment(
    loader=jinja2.FileSystemLoader('templates'), 
    extensions=['jinja2.ext.autoescape'], 
    autoescape=True, 
) 


class MainHandler(webapp2.RequestHandler): 
    def get(self): 

     teamName = get_data.all_coach_data()[1] 
     coachName = get_data.all_coach_data()[2] 
     teamKey = get_data.all_coach_data()[0] 

     values = { 
      'coachName': coachName, 
      'teamName': teamName, 
      'teamKey': teamKey, 
     } 

     template = JINJA_ENVIRONMENT.get_template('index.html') 
     self.response.write(template.render(values)) 

app = webapp2.WSGIApplication([ 
    ('/', MainHandler) 
], debug=True) 

get_data.py返回正确的数据,以我的变量用于填充值,这是我在调试器中已经验证。

在我的开发环境中启动main.py时,问题出现了(我还没有上传到gcloud)。如果没有失败,无论是漂亮的招数我已经通过上面的链接或在我的谷歌搜索发现,终端总是返回:

Import Error: No module named bs4 

从上面的SO链接之一,一个评论者说,只有“GAE支持纯Python模块bs4并不纯粹,因为有些部分是用C编写的。“我不确定这是否属实,我不确定如何验证它。我没有足够的评价来评论。 :(

我已经通过了Crummy的网站上的bs4文档,我已经阅读了所有相关的SO问题和答案,并且我试图从Appengine的文档中收集提示。但是,我一直无法找到解决方案不涉及使用已弃用版本的BeautifulSoup,它不具备我需要的功能。

我是初学者编程和使用StackOverflow,所以如果我遗漏了一些重要的信息或不如果您有任何疑问,请通知我,我会在必要时编辑并添加其他信息。

谢谢!

EDITS: 我不知道,如果GET_DATA代码将是矫枉过正,但在这里它是:

from bs4 import BeautifulSoup 
import urllib2, re 

teamKeys = { 
    'ATL': 'Atlanta Falcons', 
    'HOU': 'Houston Texans', 
} 

def get_all_coaches(): 
    for key in teamKeys: 
     page = urllib2.urlopen("http://www.nfl.com/teams/coaches?coaType=head&team=" + key) 
     soup = BeautifulSoup(page) 
     return(head_coach(soup)) 

def head_coach(soup): 
    head = soup.select('.coachprofiletext p')[0].text 
    position, name = re.split(': ', head) 
    return name 

def export_coach_data(): 
    testList = [] 
    for key in teamKeys: 
     page = urllib2.urlopen("http://www.nfl.com/teams/coaches?coaType=head&team=" + key) 
     soup = BeautifulSoup(page) 
     teamKey = key 
     teamName = teamKeys[key] 
     headCoach = head_coach(soup) 

     t = [ 
      teamKey, 
      teamName, 
      str(headCoach), 
     ] 

     testList.append(t) 

    return(testList) 

def all_coach_data(): 
    results = data.export_coach_data() 

    ATL = results[0] 
    HOU = results[1] 

    return ATL 

我想指出,这可能与执行力差散落(我只是在业余时间内认真开发了几个月),但它确实将正确的值返回给我的主要变量。

这里是AppEngine上启动日志:

2014-11-05 15:36:53 Running command: "['C:\\Python27\\pythonw.exe', 'C:\\Program Files\\Google\\Cloud SDK\\google-cloud-sdk\\platform\\google_appengine\\dev_appserver.py', '--skip_sdk_update_check=yes', '--port=11080', '--admin_port=8003', u'G:\\projects\\coaches']" 
INFO  2014-11-05 15:37:00,119 devappserver2.py:725] Skipping SDK update check. 
WARNING 2014-11-05 15:37:00,157 api_server.py:383] Could not initialize images API; you are likely missing the Python "PIL" module. 
INFO  2014-11-05 15:37:00,190 api_server.py:171] Starting API server at: http://localhost:19713 
INFO  2014-11-05 15:37:00,210 dispatcher.py:183] Starting module "default" running at: http://localhost:11080 
INFO  2014-11-05 15:37:00,216 admin_server.py:117] Starting admin server at: http://localhost:8003 
ERROR 2014-11-05 20:37:48,726 wsgi.py:262] 

Traceback (most recent call last): 

    File "C:\Program Files\Google\Cloud SDK\google-cloud-sdk\platform\google_appengine\google\appengine\runtime\wsgi.py", line 239, in Handle 

    handler = _config_handle.add_wsgi_middleware(self._LoadHandler()) 

    File "C:\Program Files\Google\Cloud SDK\google-cloud-sdk\platform\google_appengine\google\appengine\runtime\wsgi.py", line 298, in _LoadHandler 

    handler, path, err = LoadObject(self._handler) 

    File "C:\Program Files\Google\Cloud SDK\google-cloud-sdk\platform\google_appengine\google\appengine\runtime\wsgi.py", line 84, in LoadObject 

    obj = __import__(path[0]) 

    File "G:\projects\coaches\main.py", line 3, in <module> 

    import get_data 

    File "G:\projects\coaches\get_data.py", line 1, in <module> 

    from bs4 import BeautifulSoup 

ImportError: No module named bs4 

INFO  2014-11-05 15:37:48,762 module.py:652] default: "GET/HTTP/1.1" 500 - 
+1

你最近怎么进口? “从BS4导入BeautifulSoup”? – 2014-11-05 20:07:22

+0

您可以手动解析HTML或通过查找模式提取要查找的内容。 – Ryan 2014-11-05 20:08:23

+0

您正在执行导入的代码在哪里? – 2014-11-05 20:10:05

回答

3

编辑:它已被指出,这是一个黑客的位。如果是这样,该解决方案如何修改,以便不需要重新命名BS4内部的模块?

http://www.reddit.com/r/learnpython的几位用户帮我解决了这个问题。

通过扩大对拉立卑提出的解决方案,我们将以下在main.py:

import os, sys 

rootdir = os.path.dirname(os.path.abspath(__file__)) 
lib = os.path.join(rootdir, 'lib') 
sys.path.append(lib) 

那时,这里就是从来没有人这里提到或以任何其它的SO答案,我加“lib.bs4”我所有的导入语句,因为这样的:

from lib.bs4 import BeautifulSoup 

但是,不仅如此,还有的BS4库本身内bs4引用,所以我搜索和替换所有这些与lib.bs4.<something>

现在,最后,我的应用程序运行,结构被组织。所有的信贷去/u/invalidusemame/u/prohulaelk

希望这篇文章可以帮助其他人陷入类似的情况。也许应该很明显的是,所有的进口都需要添加到进口声明中,但从所有的答案中并不明显。

谢谢大家谁帮助解决问题!

+0

如果您正确地将'lib'添加到您的sys路径中,则无需在每个地方都添加'lib.bs4'。解决方案不正确。当你更新bs4时,你所有的路径将回到你所在的位置。 -1 – GAEfan 2014-11-08 01:54:51

+0

我还是将lib添加到sys.path中。什么做得不好?我理解你的担忧,但我不确定解决方案是什么。 – nicholas 2014-11-08 13:15:20

2

我相信你的问题是main.py一个错字:

sys.path.insert(0, 'lib') 

你的目录libs,不lib

+0

该目录结构有一个错字。该文件夹在我的项目中被命名为lib,但是我从另一个问题复制了该结构。我编辑了原文。 – nicholas 2014-11-06 14:17:15

+0

这不是答案。这只是一个错字。你可以删除它吗? – nicholas 2014-11-08 17:20:13

0

好的,还有其他一些修复程序。 app.yaml中导入LXML,图书馆下:

libraries: 
- name: lxml 
    version: "2.3" <<- do NOT use "latest" 

确保您有一个__init__.py文件库。我在那里添加了一些代码,使其自我连接:

import os 
import sys 

libs_directory = os.path.dirname(os.path.abspath(__file__)) 
if libs_directory not in sys.path: 
    sys.path.insert(0, libs_directory) 

root_directory = os.path.dirname(os.path.dirname(os.path.abspath(__file__))) 
if root_directory not in sys.path: 
    sys.path.insert(0, root_directory) 
+0

我是否需要对__init__.py文件进行任何修改?如果没有,我做了这些改变,并且我得到了同样的错误。我应该从main.py文件中删除sys.path.insert吗?谢谢你的帮助! – nicholas 2014-11-06 15:50:27

+0

'__init __。py'中的代码不是必需的。你的方法'sys.path.insert(0,'lib')'应该工作。你安装了什么版本的bs4? (打开它的'__init __。py'进行检查。)你是否已经在app.yaml的'-libraries'中添加了lxml? – GAEfan 2014-11-06 15:58:45

+0

我没有添加lxml到我的app.yaml库。我删除了<< - 不要使用部分,当然。我正在使用bs4的__version__ =“4.3.2”。我已经尝试了lib/__ init__.py文件,但没有在上面发布的代码,但没有成功。编辑:我已经用我当前的代码更新了GH repo。 – nicholas 2014-11-06 16:09:21

1

或者,您可以创建一个名为appengine_config.py的文件来加载第三方库。该文件将在启动新实例时加载。

import sys 
import os.path 
# add `lib` subdirectory to `sys.path`, so our `main` module can load third-party libraries. 
sys.path.insert(0, os.path.join(os.path.dirname(__file__), 'lib')) 
相关问题