在Python的实际开发场景中,我们经常会遇到这样的需求:有一个包含多个字典元素的列表,每个字典都有若干字段,现在需要搜索多个关键词,找出列表中所有匹配指定字段的字典元素。随着数据量的增加,简单的嵌套循环实现方式效率会越来越低,需要更高效的实现方案。

基础实现:嵌套循环方案
最直观的实现方式是使用两层循环,外层遍历关键词列表,内层遍历字典列表,逐个判断字段是否包含关键词。这种方式逻辑简单,容易理解,但时间复杂度是O(m*n),其中m是关键词数量,n是字典列表长度,当数据量较大时性能较差。
# 示例数据
dict_list = [
{"id": 1, "name": "苹果手机", "category": "电子产品"},
{"id": 2, "name": "香蕉", "category": "水果"},
{"id": 3, "name": "华为手机", "category": "电子产品"},
{"id": 4, "name": "橘子", "category": "水果"}
]
keywords = ["手机", "水果"]
# 嵌套循环实现
result = []
for keyword in keywords:
for item in dict_list:
# 匹配name字段是否包含关键词,且避免重复添加
if keyword in item.get("name", "") and item not in result:
result.append(item)
print(result)
优化方案:集合与单次遍历结合
我们可以将关键词转换为集合,然后遍历一次字典列表,对每个字典的指定字段,判断是否和关键词集合有交集,这样只需要遍历一次字典列表,时间复杂度降低到O(n),性能会有明显提升。
# 示例数据同上
dict_list = [
{"id": 1, "name": "苹果手机", "category": "电子产品"},
{"id": 2, "name": "香蕉", "category": "水果"},
{"id": 3, "name": "华为手机", "category": "电子产品"},
{"id": 4, "name": "橘子", "category": "水果"}
]
keywords = ["手机", "水果"]
keyword_set = set(keywords)
result = []
for item in dict_list:
# 获取name字段内容,判断是否包含任意关键词
name = item.get("name", "")
# 判断关键词集合和name中的字符是否有交集
if any(keyword in name for keyword in keyword_set):
result.append(item)
print(result)
批量匹配多字段的扩展实现
如果需要同时匹配多个字典字段,比如同时匹配name和category字段,可以扩展判断逻辑,遍历所有需要匹配的字段,只要有一个字段匹配成功就加入结果集。
# 示例数据同上
dict_list = [
{"id": 1, "name": "苹果手机", "category": "电子产品"},
{"id": 2, "name": "香蕉", "category": "水果"},
{"id": 3, "name": "华为手机", "category": "电子产品"},
{"id": 4, "name": "橘子", "category": "水果"}
]
keywords = ["手机", "水果"]
keyword_set = set(keywords)
# 需要匹配的字段列表
match_fields = ["name", "category"]
result = []
for item in dict_list:
match_flag = False
# 遍历所有需要匹配的字段
for field in match_fields:
field_value = item.get(field, "")
if any(keyword in field_value for keyword in keyword_set):
match_flag = True
break
if match_flag:
result.append(item)
print(result)
不同方案的性能对比
我们可以通过模拟大量数据来测试不同方案的执行时间,直观看到性能差异:
import time
# 生成10万条测试数据
test_dict_list = [{"id": i, "name": f"测试商品{i}", "category": "分类{i%10}"} for i in range(100000)]
test_keywords = [f"商品{num}" for num in range(100)]
test_keyword_set = set(test_keywords)
# 测试嵌套循环方案
start_time = time.time()
result1 = []
for keyword in test_keywords:
for item in test_dict_list:
if keyword in item.get("name", "") and item not in result1:
result1.append(item)
print(f"嵌套循环方案耗时:{time.time() - start_time:.4f}秒")
# 测试优化方案
start_time = time.time()
result2 = []
for item in test_dict_list:
name = item.get("name", "")
if any(keyword in name for keyword in test_keyword_set):
result2.append(item)
print(f"优化方案耗时:{time.time() - start_time:.4f}秒")
实际测试可以看到,当数据量达到10万级时,优化方案的耗时会比嵌套循环方案少很多,数据量越大,优势越明显。
方案选择建议
- 如果字典列表长度小于1000,且关键词数量较少,嵌套循环方案足够使用,代码逻辑更简单。
- 如果数据量较大,或者关键词数量较多,优先选择集合结合单次遍历的优化方案,性能提升明显。
- 如果需要匹配多个字段,扩展优化方案的判断逻辑即可,不需要额外增加循环层数。
注意:如果关键词数量特别多,还可以考虑使用正则匹配的预编译方式,将关键词拼接为正则表达式,进一步提升匹配效率。
正则匹配扩展方案
当关键词数量非常多时,可以将所有关键词拼接成一个正则表达式,用re模块的预编译正则进行匹配,进一步减少重复判断的开销。
import re
# 示例数据
dict_list = [
{"id": 1, "name": "苹果手机", "category": "电子产品"},
{"id": 2, "name": "香蕉", "category": "水果"},
{"id": 3, "name": "华为手机", "category": "电子产品"},
{"id": 4, "name": "橘子", "category": "水果"}
]
keywords = ["手机", "水果"]
# 拼接正则,预编译提升性能
pattern = re.compile("|".join(keywords))
result = []
for item in dict_list:
name = item.get("name", "")
if pattern.search(name):
result.append(item)
print(result)